Krytykowano go jednak między innymi – jak czynił to na przykład pułkownik Bob Wilson, który w czasie prezydentury Obamy służył w Radzie Bezpieczeństwa Narodowego – za podejście do sytuacji w Afganistanie, opierające się na utrzymaniu status quo, czyli niezadowalającego impasu.
Kurs obrany przez Mattisa na stanowisku szefa Pentagonu od początku był rozbieżny z polityką Trumpa. Zauważono to już pierwszego dnia, gdy Mattis w swoim powitalnym oświadczeniu wypowiedział się pozytywnie na temat amerykańskich służb wywiadowczych, krytykowanych wówczas przez Trumpa. Jako sekretarz obrony Mattis prawdopodobnie blokował realizację niektórych kontrowersyjnych decyzji Trumpa dotyczących sił zbrojnych, takich jak decyzja o zakazie służby wojskowej dla osób transseksualnych. Według Boba Woodwarda w kwietniu 2017 roku Mattis zignorował wydany przez Trumpa rozkaz zabicia prezydenta Syrii Baszszara al-Asada w reakcji na użycie broni chemicznej w Chan Szajchun i zamiast tego opracował plan uderzenia o charakterze wojskowym. thumb|Mattis i saudyjski książę Muhammad ibn Salman 8 grudnia 2018 roku Trump ogłosił, że następcą generała Josepha Dunforda na stanowisku przewodniczącego Kolegium Połączonych Szefów Sztabów zostanie generał Mark Milley z wojsk lądowych. Decyzja ta stała w sprzeczności z rekomendacjami Mattisa, który jako nowego przewodniczącego proponował Davida Goldfeina z US Air Force.