W 1438 roku przybył do Włoch wraz z patriarchą Józefem II i po długich negocjacjach na soborze we Florencji cesarz podpisał akt unii uznając dogmaty Kościoła katolickiego oraz władzę papieża. Plan z zawarciem unii się nie powiódł, gdyż rachuby Jana VIII były błędne, a akt podpisania unii spowodował więcej szkód niż pożytku. Bizantyńczycy nie chcieli wyrzec się swojej wiary i podporządkować papieżowi, a Zachód nie miał zamiaru ratować Bizancjum. W dodatku od Konstantynopola odwróciła się RuśS. Olszaniec, op. cit., s. 40 - 41..
Jan VIII widząc fiasko swoich kilkuletnich starań nie ogłosił unii po powrocie do Konstantynopola. Wieść jednak o odstępstwie z jego strony wywołała w Cesarstwie wrogie nastroje przeciwko niemu. Nieudaną próbę przejęcia władzy podjął jego brat Demetriusz II Paleolog.
W tym czasie klęską zakończyła się wyprawa przeciwko Turkom Władysława III. Była to ostatnia – za czasów istnienia Bizancjum – próba podjęta przez chrześcijański świat Zachodu przeciwstawienia się ekspansji tureckiej. Jan VIII po poniesionych porażkach politycznych nie podejmował już aktywnych działań na arenie międzynarodowej.