Точная дата постройки первой деревянной Ильинской церкви не известна. Впервые она упоминается в 1642 году, будучи на тот момент уже ветхой. В следующие два-три года церковь была перестроена и переименована в Троицкую с приделом во имя святого Ильи-пророка. К концу XVII века Троицкая церковь была известна под названием Входоиерусалимской, когда именно сменился небесный покровитель, неизвестно. В пожаре 1748 года деревянная церковь сгорела, ее отстроили вновь деревянной. Лишь в 1767 году начали строить каменную церковь. В июле 1770 года епископ Тихон II освятил главный престол, а придел во имя пророка Ильи был завершен в январе 1771 года. Еще позже, в 1810-х годах, был устроен придельный алтарь в трапезной во имя мученика Антипы, обустройство его стало возможным на средства купца И. Рьндина. Еще одним меценатом выступил купец Н. Рубцов, на деньги которого был расписан иконостас. По свидетельствам прихожан того времени Ильинский храм был «благолепно» украшен, его интерьер считался лучшим из всех церквей Воронежа, стены отделаны под мрамор и расписаны. В храме было несколько особо почитаемых икон: икона Божьей Матери, написанная в XVIII веке и отделанная в 1847 году серебряной ризой в память об избавлении города от холеры, иконы священномученика Антипы и благоверного князя Александра Невского. К началу XX столетия здание Ильинской церкви считалось одним из наиболее оригинальных сооружений стиля воронежского барокко, которое снаружи практически не перестраивалось.
Ильинская церковь владела 49 десятинами пахотной земли, которую сдавали в аренду. Приход насчитывал около 500 душ. В 1872 году было образовано попечительство для помощи бедным, при церкви существовала богадельня для престарелых женщин.
В середине XVIII века вокруг Ильинской церкви была отделена земля для приходского кладбища.
В 1809 году Входоиерусалимская церковь стала местом крещения будущего русского поэта, певца воронежских степей А.В. Кольцова. Вот запись в церковной книге: «Октября 3 рожден у купца Василия Петрова сына Кольцова и жены его Параскевы Ивановой сын Алексий. Воспринимали при крещении купец Николай Иванов Галкин и купецкая жена Евдокия Васильевна Чеботарева». В то время семья Кольцовых жила недалеко от Ильинской церкви, на Большой Стрелецкой улице.
В начале 1930-х годов церковь была закрыта. С 1934 года в здании церкви находился архив, здесь хранились рукописи из Областного архива Октябрьской революции и социалистического строительства и Областного исторического архива. Архив оставался здесь же и после войны, в нем работали исследователи, ученые. Рядом, в доме притча, располагалось архивное управление и читальный зал. До сих пор здание Ильинской церкви используется как фондохранилище. Внутри стоят высоченные многоярусные стеллажи, на которых покоятся связки дореволюционных и советских документов.
В конце 1993 года администрация Воронежской области приняла решение о возвращении епархии здания Ильинской церкви, а также Спасской, которая также занята архивом. Но необходимо время, пока все документы будут перенесены в какое-то другое помещение. Архив — государственное учреждение, поэтому не располагает собственными средствами. Все это порождает вопрос о времени, в течение которого будет выделено новое помещение для архивных документов. С Божьей помощью, скоро засияют на восстановленной церкви новые купола.
