Родился в слободе Суха (ныне Кобелякского района Полтавской области Украины) в семье рабочих Терентия Сидоровича и Татьяны Гавриловны Гончаров. Отец работал в пригородном колхозе в с. Ломовка (теперь на территории Днепропетровска), где и погиб от немецкой авиабомбы в 1918 году. Мать работала на заводе металлоизделий. После смерти матери в 1921 году дед и бабка (родители матери) забрали его к себе в село Сухе. Добрая и любящая бабушка заменила мальчику мать.
С 1925 году Олесь учился в родном селе, потом в с. Хорошки. В 1933 году закончил семилетнюю школу в с. Бреусовка Козельщинского района. Олесь ещё в школе хорошо писал, после её окончания поступил на работу в редакцию Козельщинской районной газеты «Развернутым фронтом». В 1933-1937 годах учился в Харьковском техникуме журналистики имени Николая Островского, по окончании которого работал учителем в с. Мануйловка и в Харьковской областной газете «Ленинская смена».
С 1937 года Гончар начал публиковать свои произведения в основном короткие рассказы в республиканских изданиях («Литературная газета», «Пионерия», «Комсомолец Украины», «Молодой большевик»). В 1938 году поступил на филологический факультет Харьковского университета. За время учёбы в университете (1938-1941 гг.) написаны новеллы «Иван Мостовой», «Черешни цветут», «Орленок», повесть «Стокозово поле».
В июне 1941 года с третьего курса университета Олесь уходит добровольцем в составе студенческого батальона на фронт. Военные условия (он был старшим сержантом, старшиной минометной батареи) не слишком благоприятствовали писательскому труду. Тем не менее Гончар пишет стихи (сборник «Фронтовые стихи», опубликован в 1985), делает заметки, послужившие основой его новелл 40-х годов и романа «Знаменосцы».
После демобилизации Олесь в 1945 года приезжает в Днепропетровск, где поселяется у старшей сестры. Он завершает образование в Днепропетровском государственном университете (1946). Но главное – работает над первой частью романа «Знаменосцы» - «Альпы». Роман был замечен Юрием Яновским, в те годы главным редактором журнала «Отчизна», и напечатан в 1946 году. По приглашению Яновского Гончар переезжает в Киев, поступает в аспирантуру Института литературы имени Шевченко АН Украины. Яновский становится своеобразным наставником молодого писателя, который извлечет много творческих уроков из общения с мэтром. До конца своих дней Гончар с любовью вспоминал своего учителя («Голубые башни Яновского», 1975).
В 1947 году печатается повесть «Земля гудит» о подпольщиках Полтавщины и вторая книга романа «Знаменосцы» «Голубой Дунай». Роман, повествующий об освободительной миссии Советской Армии в Европе, был замечен официальными властями и критикой. Молодой писатель получил признание власти, критики и главное публики.
В 40-50-е годы писатель продолжает развивать военную тему в своих многочисленных новеллах, рядом с ней начинает звучать и новая тема – мирная жизнь людей, моральные аспекты их взаимоотношений. Новеллы и повести этого направления («Микита Братусь», 1950; «Пусть горит огонек», 1955) готовят будущие вершины творчества Гончара в 60—70-е годы. Историко-революционная дилогия Гончара «Таврия» (1952) и «Перекоп» (1957), посвященная событиям гражданской войны на Юге Украины, остается наиболее слабым анемичным произведением писателя. В эти годы начинается общественная и публицистическая деятельность Гончара. Он совершает заграничные поездки, итогами которых становятся книги очерков «Встречи с друзьями» (1950), «Китай вблизи» (1951). В 1959 Гончар избирается председателем Союза писателей Украины, секретарем Союза писателей СССР.
В 1960 году напечатан роман «Человек и оружие», открывающий новую страницу в творчестве Гончара. Романтико-философская направленность произведения, акцент на сокровенных вопросах жизни и смерти человека, проблемах неистребимости морального духа человека отличают этот роман, основанный на воспоминаниях писателя о студенческом добровольческом батальоне времен войны. Роман был удостоен Национальной премии Украины имени Шевченко (1962; в этом году премия присуждалась впервые). Вторая часть дилогии роман «Циклон» (1970) был написан после перерыва. Тема получает неожиданное продолжение – постаревший герой «Человека и оружия» стал кинорежиссёром и снимает фильм о войне. Переплетение реальности и постановочных сцен, современности и воспоминаний о прошлом, да и сама кинематографическая тематика заставляет вспомнить «Мастера корабля» Яновского.
Роман в новеллах «Тронка» (1963) – первое крупное произведение Гончара, посвященное современной мирной жизни. Построенный в виде своеобразного «венка новелл», раскрывающих разные стороны жизни простых людей, жителей украинских степей, роман рисует целую панораму характеров, образов, ситуаций. В «Тронке» впервые в украинской литературе остро ставится проблема искоренения сталинизма, борьбы старого с новым. На волне хрущевской оттепели роман был удостоен Ленинской премии (1964).
Печальная участь была уготована следующему произведению Гончара роману «Собор» (1968). По сравнению с «Тронкой» роман гораздо более близок к традиционному реализму с четко выраженными положительными и отрицательными героями. Борьба за возрождение духовности, за историческую память народа как основу порядочности в отношениях между людьми находится в центре повествования. Прообразом собора в романе послужил Троицкий собор в Новомосковске Днепропетровской области. Первый секретарь Днепропетровского обкома КПСС Ватченко узнал себя в образе отрицательного героя бездуховного партийца-приспособленца, сдавшего своего отца в дом престарелых. Будучи другом Брежнева, Ватченко потребовал запрещения романа. Роман был напечатан только в журнале, уже напечатанный тираж книги был конфискован, перевод романа на русский язык был приостановлен. Несмотря на попытки защитить произведение (статьи Бажана и др.) оно было запрещено и о нём перестали упоминать.
В произведениях позднего периода Гончар продолжал поднимать морально-этические темы современности (роман «Твоя заря», 1980), тему романтики юношеских поисков (повесть «Бригантина», 1973).
Гончар занимался общественной деятельностью. В 1959—1971 годах — председатель правления Союза писателей Украины, в 1959—1986 секретарь Союза писателей СССР, председатель комитета по присуждению Государственной премии УССР им. Т. Г. Шевченко. В 1966 году выступил на V съезде писателей Украины с докладом «Думать о великом». В 1980 году выпустил книгу «Писательские размышления», в которой подводил итог своей деятельности.
В 1962-1990 депутат ВС СССР. В 1971-1986 кандидат в члены ЦК КПСС.
С началом перестройки и обретением Украиной независимости активно включился в общественную жизнь, был инициатором создания Общества Украинского Языка и Народного Руха Украины. В 1990 году вышел из КПСС. Депутат Верховного Совета Украины I демократического созыва (1990 — 1994). Свои взгляды на пути развития независимой Украины высказал в книге «Чем живем. На пути украинского возрождения» (1991). Почетный доктор Альбертского университета (Канада, 1992), признан Всемирным интеллектуалом Кембриджским университетом (1993).
Умер 14 июля 1995 года в Киеве. Похоронен на Байковом кладбище. В 2001 году в Киеве открыт памятник Гончару. В 2005 году было присвоено звание Герой Украины (посмертно).
Жена - Валентина Даниловна Гончар.
