Начало Великой Отечественной войны потребовало от советских дипломатов активных действий по созданию антигитлеровской коалиции. 12 июля 1941 г. Вышинский присутствовал при первом акте, ведущем к созданию такой коалиции, – подписании соглашения СССР с Великобританией о совместных действиях в войне против Германии. Принимал участие в конференции министров иностранных дел СССР, США и Великобритании, проходившей в октябре 1943 г. в Москве. По предложению советского правительства, конференция рассмотрела вопросы сокращения сроков войны против гитлеровской Германии и ее союзников в Европе, открытия второго фронта, обращения с Германией и другими вражескими странами в Европе, создания международной организации для обеспечения всеобщей безопасности и др. В частности, было решено создать Европейскую консультативную комиссию и Консультативный совет по вопросам Италии. В 1944– 1945 гг. принимал активное участие в переговорах с Румынией, а затем с Болгарией. В феврале 1945 г. в качестве члена советской делегации на Ялтинской конференции руководителей трех союзных держав – СССР, США и Великобритании, участвовал в работе одной из ее комиссий. В апреле того же года присутствовал при подписании договоров о дружбе и взаимопомощи с Польшей, Югославией и другими государствами.
Вышинский привез в Берлин текст Акта о безоговорочной капитуляции Германии, ознаменовавший победу в Великой Отечественной войне 9 мая 1945 г. (оказывал маршалу Г.К. Жукову правовую поддержку). Участник Потсдамской конференции в составе советской делегации. В январе 1946 г. возглавлял делегацию СССР на первой сессии Генеральной Ассамблеи ООН. Летом и осенью 1946 г. выступал на пленарных заседаниях Парижской мирной конференции, в комиссии по политическим и территориальным вопросам для Румынии, аналогичных комиссиях для Венгрии и Италии, в Комиссии по экономическим вопросам для Италии, о компетенции губернатора в Триесте, в Комиссии по экономическим вопросам для Балкан и Финляндии, о мирном договоре с Болгарией.
С марта 1946 г. – заместитель, с 4 марта 1949 г. – министр иностранных дел СССР. В 1949 г. в разгар «холодной войны» в своих выступлениях и статьях обличал «рьяного поджигателя войны», «грубого фальсификатора», «гнусного клеветника» в лице того или иного представителя «международного империализма». Владел французским, английским и немецким языками.
А.Я. Вышинский – лауреат Сталинской (Государственной) премии 1947 г. за монографию «Теория судебных доказательств в советском праве». В ней он писал о роли и значении суда в Советском государстве: «Открытые судебные процессы в СССР мобилизуют внимание общества, народа на наиболее острых и важных моментах борьбы с врагами социализма. Открытые судебные процессы в СССР воспитывают массы показом зла, разоблачением всяческих “махинаций” классового врага и его агентуры, укрепляя бдительность масс, укрепляя их преданность делу социалистического строительства». Выдвинутые в работах Вышинского положения были направлены на обоснование грубых нарушений социалистической законности, массовых репрессий. Признанию обвиняемого было придано значение ведущего доказательства. Понятия «презумпция невиновности» не существовало. При отсутствии каких-либо доказательств вины судьбу арестованного определяла «революционная совесть прокурора».
С 16 октября 1952 г. – кандидат в члены Президиума ЦК КПСС.