La notion de système international est utilisée en théorie des relations internationales, en géopolitique et en droit international afin de désigner, principalement, les relations entretenues par les divers États entre eux. Les théoriciens, qu'ils soient politologues, géographes, économistes ou juristes, ont des conceptions très différentes de celui-ci. L'histoire est souvent divisée selon le système international en vigueur : on parlait ainsi de système de Westphalie après la guerre de Trente Ans, de système du Congrès de Vienne après les guerres napoléoniennes, des systèmes bismarckiens après la guerre franco-prussienne, de système de sécurité collective de la Société des Nations après la Première Guerre mondiale, de système bipolaire lors de la guerre froide, ou encore de système multipolaire après celle-ci.
Conception classique du système international: l'État comme unité de base
Le politologue français Raymond Aron (1962) définissait par exemple celui-ci ainsi: J'appelle système international l'ensemble constitué par des unités politiques qui entretiennent les unes avec les autres des relations régulières et qui sont susceptibles d'être impliquées dans une guerre générale<ref> Raymond Aron (1962), Paix et guerre entre les nations, chap. IV </ref>.
Il considérait ainsi les États, et en particulier les États-nations, comme l'unité de base de ce système, caractérisé par la diplomatie (les « relations régulières ») et la guerre. Une telle approche s'inspire de l'ouvrage classique de Clausewitz, De la guerre, pour qui « la guerre est la politique continuée par d'autres moyens ». Cette théorie, d'inspiration réaliste, est partagée par nombre de théoriciens. Robert Keohane, représentant de l'institutionnalisme néolibéral qui met l'accent sur le rôle des institutions internationales dans la détermination du comportement des États, affirme cependant: La théorie institutionnaliste suppose que les États sont les principaux acteurs de la scène internationale et qu’ils agissent en fonction de leurs intérêts Keohane Robert O., « Institutionalist Theory and the Realist Challenge After the Cold War », in , Neorealism and Neoliberalism: The Contemporary Debate, Columbia University Press, 1993., p.271.
L'enseignement classique de la « marche à la Première Guerre mondiale », tel que dispensé à l'école, s'appuie largement sur cette conception traditionnelle des relations internationales, centrée sur l'histoire diplomatique. Sur le plan européen, on met l'accent sur le système d'alliances (Triplice et Triple-Entente) liant les États entre eux, sur la rivalité et le défi posé par l'émergence de la Prusse et de l'Allemagne incarnée par la Weltpolitik, et sur la succession de crises internationales qui, vues rétrospectivement, indiqueraient de façon sûre l'« inéluctable » déflagration mondiale (crise d'Agadir, etc.). Cette conception classique est partagée aussi bien par des auteurs comme Raymond Aron que par la théorie léniniste selon laquelle l'impérialisme serait le « stade ultime du capitalisme ». Certains auteurs ont cependant corrigé une image trop lisse de la marche à la guerre, en mettant l'accent sur l'importance des représentations et des approximations faites par les dirigeants et les élites au pouvoir. Ainsi, le culte de l'offensive participe à l'explication du déclenchement rapide de la guerre , « The Cult of the Offensive and the Origins of the First World War », International Security, été 1984, vol.9, pp.58-107. Snyder, Jack, « Civil-Military Relations and the Cult of the Offensive, 1914 and 1984 », International Security, été 1984, vol.9, pp.108-160. Voir aussi les travaux de Robert Jervis sur le rôle des représentations en relations internationales .
Si, depuis Jean Bodin, la souveraineté de l'État a toujours été au cœur de l'étude du système international, et justifie la distinction entre l'ordre interne aux États, dans lequel une puissance souveraine existe, et le système international, dans lequel aucun souverain n'existe faute de gouvernement mondial, l'État n'a pas toujours pris la figure de l'État-nation. Ainsi, le système de Westphalie concernait principalement des Empires.
Cette approche « stato-centrée » a été développée par les courants réaliste et néoréaliste, le premier mettant l'accent sur la dimension de Realpolitik, c'est-à-dire sur les objectifs de puissance poursuivis à long terme par les États, tandis que le second s'appuie sur une théorie systémique pour expliquer la position relative de chaque État.
Système anarchique ou ordre régulé ?
Contrairement à la notion d'« ordre international », le terme de « système » ne préjuge pas du caractère régulé, ou non, de ces relations. Reprenant l'idée hobbesienne d'« état de nature » persistant dans les relations internationales, le néoréaliste Kenneth Waltz parle ainsi, par exemple, d'« anarchie internationale », mettant fortement en doute la notion d'une « communauté internationale ». Celle-ci souligne en effet l'importance des institutions internationales (les Nations unies, l'Organisation mondiale du commerce, etc.) ainsi que des normes du droit international public.
Dans ce cadre de rivalité, la notion de puissance est primordiale: y a-t-il une ou des superpuissances? Faut-il considérer, comme l'a plaidé par exemple l'ex-ministre des Affaires étrangères Hubert Védrine, les États-Unis comme une hyperpuissance? La notion de « puissance » faisant intervenir diverses dimensions (population, territoire, économie, capacités scientifiques, militaire, soft power et hard power, etc.), certains géographes ont insisté sur les relations économiques pour désigner un centre mondial des décisions s'opposant à la périphérie (les pays de cette dernière pouvant, ou non, appartenir au « Tiers-monde »). Ainsi, ils ont forgé la notion de Triade ou d'« oligopole géographique mondial » pour désigner la domination, sur la scène internationale politique et économique, des États-Unis, de l'Europe et du Japon. Cette domination est cependant mise à mal par les pays émergents, notamment la Chine et l'Inde, mais aussi le Brésil, les Tigres asiatiques, etc. Cette conception des relations internationales reste toutefois à relativiser du fait du déclin croissant des puissances dites de la Triade.
Objectifs des États : équilibre, expansion ou sécurité ?
Par ailleurs, l'objectif recherché par les puissances est primordial dans l'analyse du système international. Classiquement, on insistait sur la notion d'équilibre des puissances, lequel permettait d'assurer la paix et la stabilité du système : ainsi, l'émergence de l'Allemagne en tant que puissance à la fin du conduisait à remettre en cause la puissance britannique, tandis que les États-Unis ont traditionnellement conçu leur rôle, à l'égard de l'Europe, comme garant de l'équilibre.
Certains auteurs insistent toutefois sur l'expansionnisme ou l'impérialisme de certains États (fascistes, capitalistes, etc., selon les théories), tandis que d'autres, comme le réaliste John Mearsheimer, vont jusqu'à considérer que tout État cherche nécessairement la maximalisation de sa puissance, reprenant ainsi l'idée hobbesienne et spinoziste du conatus, entendu toutefois dans un sens plus restreint.
Équilibre des puissances et stratégie
Thomas Schelling, l'un des fondateurs de la théorie des jeux, avec son ouvrage La Stratégie du conflit (1960), est l'un des représentants éminents du courant insistant sur l'importance non pas de l'équilibre des puissances en tant que tel, mais de la stabilité de celui-ci afin d'éviter une course à l'armement pouvant conduire à une guerre non prévue ni voulue (cf dilemme de sécurité). Ces analyses stratégiques insistent sur l'importance de l'interrelation entre les actes des États, et donc de l'information des agents et, corrélativement, de la transmission de messages (signalling), ainsi que sur l'importance non seulement de la puissance mais de la dissuasion : faire preuve de la volonté effective d'utiliser, s'il le faut, la puissance militaire disponible.
Des problèmes de communication peuvent en effet mener à des résultats désastreux : la prise en compte de cet aspect, après la crise des missiles de Cuba, a conduit à l'établissement du téléphone rouge entre la Maison-Blanche et le Kremlin, afin d'établir une liaison directe entre les têtes du pouvoir exécutif des deux superpuissances, court-circuitant les éventuelles interférences créées par des agences gouvernementales bureaucratisées et pouvant poursuivre leurs propres intérêts (problème, notamment, des agences de renseignement comme la CIA, qui peut vouloir poursuivre son propre agenda politique).
Notion plurivoque de « sécurité »
Désormais, certains auteurs, comme Kenneth Waltz, insistent sur la recherche de la « sécurité » et de la sécurité d'approvisionnement en ressources énergétiques (pétrole, dont l'analyse spécifique donne lieu à une géopolitique du pétrole, charbon, etc.) ou vitales (eau, etc.) . La recherche de la sécurité prend d'autant plus d'importance avec l'émergence de menaces transnationales non-étatiques comme les groupes terroristes (Al-Qaïda, etc.) .
La notion de « sécurité » s'est toutefois étendue largement au-delà de la seule sécurité nationale : elle concerne désormais aussi la santé, l'environnement et l'économie (gestion des épidémies et des pandémies comme le SIDA ou le SRAS, des crises financières et économiques comme la crise de la dette ou la crise des subprimes, et des effets externes locaux comme la catastrophe de Tchernobyl ou, au contraire, globaux comme le réchauffement climatique) . Ces différentes composantes sont prises en compte par le concept d'« infrastructure critique » (utilisé par exemple dans le Programme européen pour la protection des infrastructures critiques).
Des auteurs comme , tenant d'un constructivisme, parlent de « sécurisation » pour désigner la manière dont certains objets, thèmes ou enjeux sont construits par certains acteurs en enjeux vitaux de sécurité (sans qu'ils soient nécessairement en eux-mêmes vitaux)Arcudi, Giovanni (2006), “La sécurité entre permanence et changement”, Relations internationales, n° 125, pp. 97-109.
Acteurs non étatiques et mondialisation vignette|Le NASDAQ, sur Times Square de nuit (New York): symbole de la mondialisation financière. Il est possible d'intégrer à l'étude du système international les relations transnationales et les acteurs non étatiques, tels que les multinationales (et donc le droit international privé, en particulier le droit commercial international) et les organisations non gouvernementales (ONG). À ces entités, il faut ajouter l'essor du droit pénal international, qui fait entrer sur la scène internationale, d'une manière problématique et débattue, les individus en tant que tel (c'est-à-dire les personnes physiques).
C'est ce qu'ont fait, par exemple, les fondateurs de l'institutionnalisme néolibéral Robert Keohane et Joseph Nye, en théorisant l'« interdépendance complexe » De Montbrial Thierry. « Réflexions sur la théorie des relations internationales. » In: Politique étrangère N°3 - 1999 - 64 année pp. 467-490. , ou encore, dans une optique marxiste ou post-marxiste, Toni Negri et Michael Hardt dans Empire (2000). Dans cet ouvrage, ils transforment le concept d'impérialisme d'un État pour parler d'un Empire mondial, qui serait constitué des États, des multinationales et des ONG. Nonobstant la controverse ayant accueilli cette thèse, de façon générale le débat se focalise alors sur le type d'individu ou de sujet pertinent à l'échelle internationale.