Зазвичай організацією комуністичного партизанського руху займалися радянські чекісти, які отримували накази та постачання від установи, що називалася Українським штабом партизанського руху й очолювалася генералом НКВС та була частиною Центрального штабу партизанського руху, розташованого в Москві. Один із найбільш відомих партизанських ватажків України, Сидір Ковпак, до війни очолював міську раду. Крім свого досвіду партизанського командира під час німецької окупації України 1918 року, він мав за плечима і школу НКВС, що готувала кадри для партизанської війни. Радянські партизани почали свою діяльність на початку 1942 року з нападів на німецькі частини в тилу та центри окупаційної адміністрації. З часом, коли Червона армія почала свій наступ на захід після Сталінградської битви, діяльність радянських партизанів зросла і в кількості, і в масштабі. Якщо 1942 року чисельність партизанів сягала 5 тисяч бійців, то до 1944 року ця цифра зросла вдесятеро.
Німці намагалися впоратися зі зростанням партизанського руху, що не лише кидав виклик їхньому пануванню над Україною, а й порушував військові комунікації та постачання боєприпасів, розв’язавши терор проти місцевого населення. Доходило до спалення сіл, що їх німці вважали під контролем партизанів або підозрювали в підтримці партизанського руху. Оскільки людських ресурсів самих німців не вистачало, їхня влада спиралася на поліцейські батальйони, набрані з місцевого населення. Їхні члени рідко ішли до поліції з ідеологічних міркувань. Часто до поліційних батальйонів входили колишні члени компартії та комсомолу, які прагнули уникнути переслідувань або навіть знищення окупаційною владою. Оскільки по обидва боки барикад були місцеві мешканці, то партизанська війна часто перетворювалася на жорстоку вендету, у якій рідні партизанів та поліцаїв платили найвищу ціну за вибір, зроблений їхніми родичами. Коли 1942 року хід війни повернувся не на користь німців, дедалі більше поліцаїв міняли сторону й переходили на бік партизанів. Часом було важко відрізнити колаборанта від бійця руху опору. Війна була тривалою, і дехто мав час змінити одну роль на іншу, і не один раз.
Після визволення Києва Хрущов відразу ж зайнявся справою реінтеграції колишніх радянських територій до складу Української Радянської Соціалістичної Республіки (Української PCP) та інкорпорації земель, що не контролювалися Радами до війни, до складу збільшеної республіки. Це виявилося довгим і важким завданням, що займе велику частину його часу та енергії. На початок 1944 року фронт просунувся на захід від Дніпра. До березня радянські війська відвоювали Правобережну Україну й перетнули довоєнний кордон, увійшовши до Румунії. У жовтні 1944 року Червона армія перетнула Карпати та здобула контроль над Закарпаттям, що офіційна пропаганда проголосила заключним актом возз’єднання українських земель. Не було й мови про те, аби повернути цю територію Угорщині або Чехословаччині. Більш ніж півмільйона червоноармійців загинули в битві за Західну Україну.
«Щойно ми виштовхали німців на захід, ми зустрілися зі старими ворогами — українськими націоналістами», — згадував Хрущов, описуючи свої зусилля з реінкорпорації західноукраїнських земель до складу Радянської України в 1944—1945 роках. Радянська влада часто називала цих націоналістів спільним терміном «бандерівці», з огляду на загальний контроль фракції ОУН під проводом Степана Бандери над націоналістичними повстанцями. Зрештою цей термін став використовуватися для позначення всіх, хто воював у складі Української повстанської армії (УПА), контрольованої послідовниками Бандери. Назва була обманливою з багатьох причин. По-перше, не всі бійці УПА поділяли націоналістичну ідеологію або належали до ОУН. По-друге, сам Бандера вже не повернувся в Україну після арешту німцями влітку 1941 року й не був причетний до оперативного управління військами, які називались його ім’ям. Він став символічним лідером і завжди відсутнім «батьком нації», який провів більшу частину війни в німецькому ув’язненні, а потім жив в еміграції в Західній Німеччині.
Українська повстанська армія, яка налічувала близько 100 тисяч бійців під час свого піднесення влітку 1944 року, билася за радянською лінією фронту, порушуючи комунікації Червоної армії та атакуючи частини, що перебували далі від фронту. Серед низки командирів, які очолювали повстанців, найбільш відомим був Роман Шухевич, колишній командир батальйону «Нахтігаль». Як і Шухевич, багато командирів УПА пройшли німецький вишкіл, який отримали як члени допоміжних поліцейських підрозділів. Вони полишили ці підрозділи зі зброєю в руках на початку 1943 року. Хоча вони й вважали німців своїм головним ворогом, 1943 року УПА в основному воювала проти польських повстанців. Довга історія українсько-польської ворожнечі на Волині та в Галичині, посилена взаємними підозрами у злих намірах, навесні та влітку 1943 року призвела до масових етнічних чисток, що включали спалювання сіл та масові вбивства мешканців.
Прибуття на Волинь радянських партизанів на чолі з Ковпаком невдовзі після радянської перемоги під Сталінградом зумовило українсько-польський конфлікт. Ковпаківці одержали підтримку з боку частини польських поселенців на Волині, які розглядали червоних партизан як потенційного союзника в боротьбі проти загонів УПА. Українські та польські історики досі сперечаються, чи санкціонувало керівництво УПА напади своїх підрозділів на польські села, а якщо так, то на якому рівні. Однак немає сумнівів, що більшість жертв етнічних чисток становили саме поляки. Кількість українців, які загинули внаслідок акцій поляків у Галичині та Волині, за оцінками істориків, коливається від 15 до 30 тисяч осіб, у той час як втрати поляків оцінюються як 60—90 тисяч (тобто в 3—4 рази більше). Події на Волині залишаються болючою темою україно-польських відносин. Багато хто з польських політиків та істориків говорить про «волинську різню» як акт етнічних чисток або навіть геноциду. Українська сторона наголошує на подібних діях польських повстанців на територіях, де українці становили меншину. Німці, хоча й вітали українсько-польську війну в себе в тилу, іноді забезпечуючи сторони конфлікту зброєю. Їм були вигідні операції УПА проти наступу Червоної армії.
Серед серйозних успіхів УПА було вбивство провідного радянського воєначальника, командувача Першого українського фронту генерала Миколи Ватутіна. Двадцять дев’ятого лютого 1944 року бійці УПА влаштували засідку й поранили Ватутіна, коли той повертався із зустрічі зі своїми підлеглими в Рівному, колишній столиці рейхскомісаріату «Україна».
Він помер у Києві в середині квітня. Хрущов, який був присутній на похороні Ватутіна, поховав свого друга в урядовому кварталі Києва. Після війни він установив йому пам’ятник із написом «Генералові Ватутіну від українського народу». Хрущов вважав, що цей напис розлютить українських націоналістів, але партійне керівництво в Москві сприйняло цей напис як прояв того самого українського націоналізму. Хрущов звернувся безпосередньо до Сталіна, який дозволив йому втілити його початковий задум. Цей напис українською мовою був викарбуваний на пам’ятнику, що був споруджений 1948 року й досі стоїть у центрі Києва як одне з багатьох нагадувань про складність української історії та пам’яті про Другу світову війну.
Під час Другої світової війни українці виступали по різні сторони конфлікту. Абсолютна більшість воювала в лавах Радянської армії. До її лав було мобілізовано понад 7 мільйонів українців різних національностей — кожен п’ятий або шостий радянський солдат походив з України. Понад 3,5 мільйона було призвано на початку війни та приблизно стільки ж під час неї. Багато солдатів, які пережили німецький наступ та полон 1941 року, були відпущені німцями до своїх родин, а потім схоплені та «призвані» на військову службу радянськими військовими відразу ж після того, як Червона армія повернула ті регіони, де вони жили. Вони стали відомі російською мовою як «чернопиджачники» («чорносвитники»), оскільки більшість із них було кинуто в бій відразу ж після призову — без належного обмундирування, підготовки, боєприпасів або навіть зброї. Оскільки ці люди перебували під німецькою окупацією, військове командування розглядало їх як зрадників і вважало, що вони не являють собою цінності. Більшість «чорносвитників» загинула в боях на околицях своїх міст і сіл за кілька днів після довгоочікуваного «визволення».
У той час як радянські командири не коливалися набирати українців у військо й кидати їх у бій, німці довго відмовлялися набирати регулярні частини з місцевого населення. Однак вони вітали їх використання як допоміжної сили — Hilfswillige (добровільних помічників), або хіві. За деякими оцінками, до складу допоміжних підрозділів хіві вступив 1 мільйон колишніх радянських громадян, серед яких українці та вихідці з України становили приблизно чверть. Ситуація змінилася після Сталінграда, коли німці стали відчувати дефіцит людських ресурсів. Новостворені ненімецькі підрозділи потрапили під прямий нагляд Гіммлера і стали частиною Ваффен-СС — військового крила СС (Schutzstaffel[36]). Серед дивізій Ваффен-СС були підрозділи, набрані майже з кожної європейської національності, у тому числі французів, шведів, росіян та українців. Близько 20 тисяч українців служили протягом війни в 14-й гренадерській дивізії Ваффен-СС, відомій як дивізія «Галичина».
Німецький губернатор дистрикту «Галичина» Отто фон Вехтер пропагував ідею створення дивізії. Уродженець Відня, Вехтер грав у стару австрійську гру, підтримуючи українців проти поляків, і під час його правління спостерігалося збільшення кількості українських шкіл у дистрикті. Він заборонив політичні організації та полював на агентів ОУН, але терпимо ставився до українських благодійних, культурних і навіть академічних установ, що разюче відрізняло Галичину від інших частин України. Вехтер вважав, що українці достатньо лояльні, щоб довірити їм зброю. Однак у Берліні багато хто сумнівався у їхньому расовому статусі. Зрештою керівництво вирішило назвати дивізію галицькою, а не українською, вважаючи галичан, як колишніх австрійських підданих, більш «цивілізованою» та надійною групою, ніж українців у цілому. Берлін не лише поділив Україну за старим російсько-австрійським кордоном, а й також проводив політику щодо різних частин країни, наслідуючи австрійські зразки. Було вирішено, що дивізія складатиметься лише з галичан, а її назва й символи не матимуть жодного стосунку до України й українців.
