Иван Алексеевич Рыжов родился 19 апреля 1936 года в д. Коровье Болото Урицкого района Орловской области. В 1949 году семья Рыжовых переехала в город Орел, здесь Иван окончил среднюю школу.
После службы в рядах Советской Армии на Военно-Морском Флоте Иван Рыжов работал на Орловском заводе приборов - слесарем, контролером ОТК, освобожденным секретарем комитета ВЛКСМ завода.
С 1961 по 1974 год И. А. Рыжов работал в областной газете "Орловский комсомолец": сначала сотрудником, затем редактором газеты. За эти годы газета стала необычайно популярной как среди молодежи Орловщины, так и среди взрослого населения. В 80-х годах Иван Алексеевич Рыжов являлся председателем Комитета по телевидению и радиовещанию при Орловском исполкоме.
Первые рассказы И. А. Рыжова были опубликованы в 1964 году. Будучи студентом Литературного института им. А. М. Горького, Иван Рыжов был принят в Союз писателей СССР по рекомендации Е. К. Горбова в 1967 году.
В этом же году вышел первый сборник рассказов И. А. Рыжова "Под одной крышей", за ним - "Открытие" (1967), "Последний корень" (1968), "Вратарь Сашка Катуков" (1970), "Кинь грусть" (1971), "Горькая рябина" (1976), "Звезды в травах" (1984), "Длинные дожди" (1989), "Звезда любви приветная" (1989), "Зеркало" (1992), "Аринкин хутор" (1994), "Позднее свидание" (1996), "Встреча" (2000), "Проза жизни" (2005). Рассказы Ивана Рыжова из книги "Последний корень" были переведены на болгарский язык в 1973 г.
Его произведения печатались в известных литературных журналах: "Наш современник", "Роман-газета", "Роман-журнал XXI век", некоторые из них были включены в хрестоматию для школ и вузов "Писатели Орловского края. XX век". По рассказу писателя "Запах земли" в 1979 г. на киностудии "Мосфильм" был снят короткометражный цветной фильм "Блажной".
С 1987 по 1989 год Иван Алексеевич Рыжов возглавлял Орловскую областную писательскую организацию.
И. А. Рыжов являлся заслуженным работником культуры РФ. Он был награжден орденом "Знак Почета", медалью "За трудовую доблесть", Почетными грамотами Союза писателей России, администрации Орловской области, областного Совета народных депутатов. Иван Алексеевич был первым лауреатом Всероссийской литературной премии им. И. А. Бунина Союза писателей РФ (1994), лауреатом юбилейной Пушкинской премии администрации Орловской области (1999). Одному из первых Рыжову была вручена Всероссийская литературная премия "Вешние воды", учрежденная Союзом писателей России и Орловским землячеством в городе Москве.
Вместе с Леонидом Моисеевым Иван Алексеевич был инициатором создания литературной газеты "Вешние воды" в 1990 году, а позднее издательства "Вешние воды". Подготовленный им спецвыпуск газеты, посвященный И. А. Бунину, был буквально сметен делегатами последнего съезда писателей РСФСР в ноябре 1990 года. И. А. Рыжов был необычайно строг и внимателен к слову. Как у виртуоза-настройщика рояля, в его произведениях не найдешь случайной буквы. А уж если корректор пытался изменить какое-либо слово или фразу, то автор категорически это зачеркивал и восстанавливал свой вариант. Нельзя не отметить огромный авторитет Рыжова в писательской среде, его слово было решающим как в оценке творчества любого автора, так и в споре между собратьями.
Писатель Иван Рыжов, известный ярким и точным описанием жизненных ситуаций в миниатюре, был признан одним из лучших мастеров современного рассказа и являлся членом Высшего творческого совета Союза писателей России.
Умер 21 февраля 2006 года, похоронен на Троицком кладбище в Орле.