Недостаточная мощность и сцепной вес тепловозов ЧМЭ2 для маневровой работы с грузовыми поездами привели к необходимости проектирования и постройки на заводах ЧКД-Прага более сильных локомотивов. Первоначально предполагалось, что такими локомотивами станут тепловозы с дизелем мощностью 1300 л. с. и гидравлической передачей типа 2-2. К 1961 г. завод ЧКД-Соколово построил несколько подобных тепловозов (тепловозы серии Т444 и Т449), но они имели ограниченный сцепной вес 56-76 т и требовали доработки гидравлической передачи. Поэтому было принято решение о постройке для железных дорог Советского Союза шестиосных маневровых тепловозов с электрической передачей.
В конце 1964 г. построено два опытных локомотива, которые получили обозначение ЧМЭ3. Эти тепловозы с капотным кузовом, главная рама которого опирается через четыре боковые подвески на рамы тележек. Сила тяги от тележек к раме кузова передается через центральные цилиндрические шкворни. Кабина машиниста расположена между машинным отделением и помещением для аккумуляторной батареи; в передней части тепловоза размещен холодильник.
Рама тележки имеет Н-образную форму и ее единственная поперечная балка является также и шкворневой. Боковины рамы через двойные винтовые цилиндрические рессоры опираются на концы балансиров, в которых укреплены буксы; вторые концы балансиров с помощью резино-металлических шарниров соединены с рамой тележки. В системе рессорного подвешивания, предусмотрены гидравлические амортизаторы. Статический прогиб рессор — 100 мм. Буксы колесных пар имеют по одному двухрядному сферическому роликовому подшипнику.

Подвеска тяговых электродвигателей опорно-осевая. Зубчатая передача выполнена односторонней с передаточным отношением 15:76=1:5, 06. Колесные пары имеют диаметр колес 1050 мм. Тяговые электродвигатели 3-й и 4-й осей подвешены в сторону концов тепловоза, у остальных осей — в сторону центра локомотива.
На тепловозе установлен шестицилиндровый четырехтактный дизель K6S310DK с вертикальным расположением цилиндров. Диаметр цилиндров и ход поршня у этого дизеля такие же, как у дизеля 6S310-DR тепловоза ЧМЭ2. Мощность дизеля K6S310DK увеличена до 1350 л. с. при сохранении скоростей вращения вала 750 об/мин за счет применения наддува (1, 6 кГ/см2). Рабочий диапазон скорости вращения вала дизеля — 350-750 об/мин, степень сжатия 13, давление сжатия 40-57 кГ/см2, давление сгорания 75-90 кГ/см2.
Регулятор мощности дизеля центробежный с гидравлическим мультипликатором и компенсатором мощности. Пуск дизеля осуществляется главным генератором от аккумуляторной батареи. Расход топлива при номинальной мощности — 162 г/э.л.с.ч. Вес сухого дизеля — 12, 8 т.
Водяная система охлаждения дизеля выполнена отдельно для охлаждения рубашек и крышек цилиндров, а также корпуса воздуходувки и отдельно для охлаждения наддувочного воздуха и масла в водомаслянном теплообменнике. Холодильник с ребристыми плоскими трубками.
Дизель приводит во вращение главный генератор TD-802 с независимым возбуждением; его номинальная мощность 885 квт при 750 об/мин (напряжение 354/600 в, ток 2500/1475 а). Вес дизель-генератора — 19400 кг.
На тепловозе установлен двухмашинный агрегат, состоящий из возбудителя DT-706-4 и вспомогательного генератора постоянного тока DT-701-4.
Возбудитель имеет на главных полюсах три обмотки (параллельную, независимую и противокомпаундную, по которой проходит ток главного генератора), обеспечивающие наиболее полное использование мощности дизеля. Мощность возбудителя при скорости вращения его якоря 2400 и 1280 об/мин соответственно равна 16, 2 квт (90 в, 180 а) и 4 квт (45 в, 90 а). Мощность вспомогательного генератора при 2400 и 1170 об/мин соответственно равна 14, 4 квт (115 в, 125 а) и 12 квт (115 в, 104 a).
Тяговые электродвигатели ТЕ-006 четырехполюсные с последовательным возбуждением и независимой вентиляцией. Номинальная мощность электродвигателя -124 квт. Вес тягового электродвигателя 2540 кг.
Тяговые электродвигатели попарно соединены последовательно, а три группы их — между собой параллельно. Помимо «полного» поля, преду- смотрена работа на двух ступенях «ослабленного» поля -42 и 22, 5% возбуждения. Это позволяет использовать полную мощность дизеля до скорости 68 км/ч.
На тепловозе установлена щелочная аккумуляторная батарея типа NiFe-H1-15 емкостью 150 ач и напряжением 115 в. Для получения сжатого воздуха имеется трехцилиндровый компрессор К2, т. е. такой же, как на электровозах ЧС2. Компрессор приводится через гидромеханический редуктор, позволяющий выключать компрессор. На каждой тележке установлено по четыре тормозных цилиндра диаметром 8″.
Конструктивный вес тепловоза — 114 т. Вес тепловоза в рабочем состоянии — 123 т. Запас топлива -5000 кг, масла — 500 л, воды 1100 л и песка 1500 кг. Тепловоз может развивать максимальную силу тяги при коэффициенте сцепления 0, 3 — 36900 кГ, сила тяги 30-минутного режима при скорости 9, 3 км/ч — 28000 кГ, длительного режима при скорости 11, 4 км/ч — 23000 кГ.
Максимальная скорость тепловоза — 95 км/ч. Два сцепленных тепловоза могут управляться по системе многих единиц одним машинистом. Минимальный радиус кривых — 80 м.
По прибытии в Советский Союз опытные тепловозы ЧМЭ3 были направлены на маневровую работу на станцию Люблино Московской дороги. С 1965 г. заводы ЧКД-Прага изготовляли тепловозы ЧМЭ3 для поставки в СССР.
В процессе постройки тепловозов ЧМЭ3 в их конструкцию вносились отдельные изменения. Так, с тепловоза №543 в поршни дизелей встроены змеевики, по которым пропускается охлаждающее поршень масло, а также изменена форма камеры сгорания. Небольшие изменения в электрических схемах были сделаны с тепловозов №053, 353 и 988. С тепловоза №874 введено устройство для управления локомотивом в одно лицо.
Тепловозы ЧМЭ3 поступили для работы на многие станции железнодорожной сети Советского Союза. В 1971 г. в столетний юбилей предприятий ЧКД-Прага был изготовлен тысячный тепловоз ЧМЭ3, а в октябре 1975 г. пражский завод поставил двухтысячный тепловоз ЧМЭ3. Тепловоз ЧМЭ3-2000 был направлен в депо Люблино Московской дороги, где с 1965 г. работает тепловоз ЧМЭ3-001. В июле 1979 г. завод изготовил трехтысячный тепловоз (поступил в депо Москва-Сортировочная), в сентябре 1982г. — четырехтысячный (депо Люблино) и, наконец, в ноябре 1985 г. в депо им. Ильича (Москва) торжественно был принят пятитысячный тепловоз.
Все тепловозы ЧМЭ3, построенные в 1976-1985 гг., оборудованы устройствами, обеспечивающими безопасную работу в одно лицо. Два сцепленных тепловоза могут управляться по системе многих единиц одним машинистом.
Тепловозы ЧМЭ3 поступили для работы на многие станции магистральных железных дорог Советского Союза, а в 1981-1985 гг. 105 тепловозов этой серии были направлены на промышленные пути Министерства черной металлургии. Первые 15 тепловозов (№3718-3732) для промышленных путей были изготовлены в 1981 г., они отличались от остальных тепловозов только отсутствием устройств автоматической локомотивной сигнализации (АЛСН). Тепловозы ЧМЭ3 выпускались по 1987 год включительно.