Люди здавна почали селитися по обох берегах Псла. Вже у II – VI століттях нової ери тут жили слов’янські племена. У VIII – X століттях в районі колишнього села Тополя (нині вул. Тополянська міста Суми) існувало поселення сіверян, а на Луці до теперішнього часу збереглися залишки великого городища часів Київської Русі, яке деякі історики ототожнюють з давньоруським містом Липецьк.
У відношенні року заснування міста Суми в істориків і краєзнавців єдиної думки немає. Називаються роки 1652 і 1655. Найбільш вірогідним тепер вважається другий варіант.
Припускають, що місто заселявся кількома хвилями переселенців з-за річки Дніпро, але засновником Сум вважається полковник Герасим Кондратьєв, який прийшов сюди, на територію Російської держави, в 1655 році з групою козаків-переселенців з містечка Ставище Білоцерківського полку.
26 квітня 1655 вони відправили лист царю Олексію Михайловичу з проханням заснувати місто на його нинішньому місці: «Б’ють чолом … бідні та поруйновані від ляхів і татар р. Ставище черкаси отаман Герасімка Кондратьєв та рядові козаки, всіх 100 чоловік … прийшли ми через Дніпра … з женишком і дітками і пришед стали на Пслі річці біля річки Сум … ». (Так пише протоієрей Олександр Двінятін в книзі «Я кличу живих, я плачу за мертвими»).
Москва дозволила козакам тут влаштуватися, і протягом 1656 – 1658 років під керівництвом російського воєводи К.Ю.Арсеньева будувалася фортеця.
“Сумін місто” побудували у дубовому лісі, з дубових колод спорудили кріпосні стіни, під фортецею викопали підземний хід до води, насипали довкола фортеці вал і викопали глибокий рів. Оборонні споруди доповнювалися природними: ріки Псел, Сума і Сумка з трьох сторін оперізували місто. З півдня підступи до Сум огороджував зроблений в 1658 році перекоп між Пслом і Сумкою. Сумська фортеця була однією і-найбільших і найбільш укріплених фортець Слобожанщини.
Зміст найменування обласного центра — міста Суми — нібито цілком зрозумілий. Існує декілька варіантів походження назви міста:
Свою назву місто отримало від річок Сума та Сумка, які омивали його з двох сторін. До наших днів дійшла легенда, що на місці, де стоять Суми, були знайдені мисливські сумки. Це знайшло відображення в гербі міста, затвердженому в 1781 році: три чорні сумки з перев’язами і золотими гудзиками на щиті прямокутної форми.
1. У середині XVII століття на північному сході сучасної України в місцевості надзвичайно мальовничій, зі слідами численних древніх слов’янських поселень, але тоді зовсім безлюдний, виникло місто-фортеця. Керував її спорудженням воєвода К.Арсеньев, який писав цареві Олексію Михайловичу: “… а місто, Государ, Сумін став на річці Пслі і на гирлі річки Суми і між малі річки Сумки, а мала, Государ, річка Сумка впала в річку Суму , а Торба-річка в річку Псел. ” Будували фортецю разом з російськими служивими людьми українські переселенці з-зa Дніпра, що стали жителями міських посадів і навколишніх слобід. Саме серед них і народилася легенда про мисливських сумках, які дали ім’я місту. Три торби, повних золота, були знайдені в дубовому лісі, немов Знак Благословення для заснування міста. Так чи інакше, але на прапорі Сумського слобідського козацького полку, що веде свій початок з 1651 р. була емблема у вигляді трьох сум, що стала з 1781 р. офіційним гербом міста.
2. Герольдмейстер М.Щербатов, який власне в 1775 р. і розробив герб міста як знак для прапора Сумського гусарського полку, керувався легендою про виявлені в районі майбутньої Сумської фортеці козаками Г.Кондратьева трьох сумок із золотом, загублених чи то кур’єрами Хмельницького, чи то царськими посланцями. Але найімовірніше, що своєю назвою місто зобов’язане річкам Сума (тепер Сумка) і Сумка (тепер Стрілка), які задовго до заснування міста мали таку назву.
3. Існує думка, що герб Сум був затверджений імператрицею Катериною II одночасно з прапором міста, що з тисячі міст такої честі були удостоєні тільки сотня з них. Зображення прапора слід шукати в архівах Петербурга. Гімну у міста спочатку не було, зате був полковий марш Сумського гусарського полку.
І ще існує легенда, що назва міста все-таки відбулася від слова« сумувати ». Тільки козаки за часів Катерини II сумували не про колишніх місцях проживання, а про красунь, яких їм так не вистачало. Вони написали листа цариці з проханням допомогти їм не вмерти від туги. І тоді Катерина II направила до них найкрасивіших придворних дам. У них з’явилися діти незвичайної краси, особливо дівчатка. З тих пір сумчанки вважаються найкрасивішими слов’янськими жінками.
З цього твердження виходить, що новозбудоване місто якийсь час не мало власного імені: підшукують йому таке ім’я тільки тоді, коли в його жителів нібито «стабілізувалося» почуття суму, яке, до речі, в цей час не могло бути їм властиве.
Згадаймо, тодішню історичну обстановку. Українські селяни і козаки переселювалися на вільні простори південного порубіжжя Російської держави, щоб позбутися нестерпного шляхетського гніту. На Слобожанщині зустрічали їх з братерською гостинністю і дбайливо влаштовували на постійне проживання в ще необжитих до цього, але зручних місцях, які відтоді ставали новою батьківщиною знедолених переселенців.
Так, влаштував московський уряд і тих українських емігрантів, які в 1652 році прибули в наші місця, в район нинішніх Сум. Для них воєвода Арсеньєв, як говориться в одному документі, «відміряв вгору і вниз по річці Пслу та обабіч по десять верств», щоб їм «землею, і сіножатями, і лісами, і всякими угіддями у своїх місцях і урочищах володіти й цареву службу служити».
Місто будувалося в межах Російської держави, під наглядом російського воєводи, отож йому дали і російську назву: «Сумін город». Саме так спочатку іменувалося в усіх документах.
Суми засновують на правому березі Псла, на місці старого городища, саме там, де в Псьол вливалась річка Сума, яка в свою чергу приймала тут у себе річку Сумку. По імені річки Суми було названо й побудовано біля неї місто.
Може виникнути питання: чому нове місто не успадкувало назви річки Псла, набагато більшої проти своєї притоки Суми з Сумкою? Пояснюється це тим, що назву Псьол було вже одного разу використано в російській географічній номенклатурі. «Городом на Псле» звалося побудоване за наказом Івана IV в гирлі Псла місто-фортеця. Проіснувало воно, правда, недовго. З дипломатичних міркувань, у зв’язку з зміною політики щодо Криму, Іван IV змушений був ліквідувати місто на Пслі. Відтворювати його назву, хоча б і щодо іншого пункту, звичайно, не годилося. Тому-то й нове місто, засноване в 1652 році на Слобожанщині, назвали Суміним городом, тобто місто на річці Сума. В народі почали його звати дещо інакше: просто Сумами.
Через короткий час така назва стала офіційною.