Родился 19 ноября 1911 года в деревне Малая Лозовка (ныне Токаревский район Тамбовской области). Окончил сельскую школу. С 16 декабря 1931 года в рядах Красной Армии, призван Волховским ГВК (Ленинградская область). В 1933 году окончил военную авиационную школу пилотов и был оставлен в ней лётчиком-инструктором. Затем служил в строевых частях ВВС: 3-м ИАП и 529-м ИАП (2-я ОКА ДВФ), 185-м КИАП (Московский ВО). Осенью 1942 года переведён в 10-й ИАП, который в 22-м ЗИАП Московского ВО (город Иваново) проходил переформирование и переучивался на новую технику.

С 10 декабря 1942 года капитан И. М. Рыбин в действующей армии: на Северо-Западном фронте в составе 10-го ИАП (18 марта 1943 года преобразован в 69-й Гвардейский ИАП), летал на "Киттихауке". Был командиром эскадрильи, штурманом полка и инспектором по технике пилотирования. С 13 марта 1943 года полк был выведен в тыл, в 22-м ЗИАП МВО доукомплектован и переучился на американские истребители "Аэрокобра". 30 июня 1943 года вошёл в состав 304-й ИАД (5-я Воздушная армия Степного фронта), боевой работы не вёл, находясь в Резерве фронта, занимался УБП и тренировкой молодого лётного состава. 4 октября 1943 года включён в 7-й ИАК Резерва Ставки ВГК и приступил к боевой работе на Степном фронте (20 октября 1943 года переименован во 2-й Украинский фронт). С 8 июля 1944 года сражался на 1-м Украинском фронте. С января 1945 года Гвардии майор И. М. Рыбин служил в Управлении 22-й Гвардейской ИАД (6-й Гвардейский ИАК), продолжая летать на "Аэрокобре". Участник боёв за взятие Берлина и освобождение Праги.

К 11 мая 1945 года инспектор-лётчик по технике пилотирования 22-й Гвардейской истребительной авиационной дивизии (6-й Гвардейский истребительный авиационный корпус Резерва СВГК, 2-я Воздушная армия, 1-й Украинский фронт) Гвардии майор И. М. Рыбин совершил около 80 боевых вылетов, провёл около 15 воздушных боёв и сбил лично 8 самолётов противника (в наградных материалах говорится и о 2 личных победах в январе 1943 года в районах Новгорода и Демьянска: ФВ-190 и Ме-109).

После окончания войны продолжал служить на различных должностях в ВВС. С 23 марта 1954 года Гвардии подполковник И. М. Рыбин - в запасе.

Награждён орденами: Красного Знамени (25.12.1943, 19.03.1944, 21.08.1953), Отечественной войны 1-й степени (25.04.1945), Красной Звезды (06.11.1947); медалями, в том числе "За боевые заслуги" (03.11.1944).