L'économie des organisations est une branche de l'économie qui étudie l'ensemble des arrangements institutionnels permettant la mise en œuvre de la production et l'échange de biens et de services.

Dans un sens plus restreint, l'économie des organisations consiste dans l'étude de l'organisation comme entité économique spécifique, l'entreprise étant l'organisation analysée de manière privilégiée.

L'économie des organisations s'intègre également dans le corpus plus large de la théorie des organisations avec d'autres disciplines comme la sociologie des organisations.

La rupture avec l'approche classique et néoclassique 135px|left|thumb|Adam Smith Depuis l'antiquité l'organisation a été un sujet d'analyse. Platon idéalisait les fonctions des individus au sein de sa société par la division du travailPlaton, La république, livre III en particulier. Au , Adam SmithAdam Smith "recherche sur la nature et les causes de la richesse des nations", 1776 est un des premiers auteurs à réfléchir au fonctionnement de l'entreprise. Il met en valeur le fait que la division du travail par la spécialisation en fonction des compétences permet de dynamiser le marché (exemple de la manufacture d'épingle). Dans cette optique, l'entreprise et donc l'organisation reste une « boîte noire » dans la mesure où il n'analyse pas les phénomènes se produisant en son sein, mais simplement les motivations des individus et les conséquences sur le marché. L'individu simplifié ne recherche ici que la satisfaction de ses intérêts personnels d'un point de vue purement économique. Toutefois, il ne faut pas oublier qu'Adam Smith considère d'autres motifs d'actions dans sa « Théorie des sentiments moraux ». Cette conception d'un individu recherchant à maximiser ses avantages propres sera reprise par plusieurs auteurs dont John Stuart Mill ou encore Vilfredo Pareto au début du . Ce dernier développera le concept d'Homo œconomicus décrivant un individu parfaitement égoïste et maximisateur de sa propre utilité.

Ces hypothèses furent partiellement reprises par la théorie néoclassique (voir la théorie néoclassique du producteur). Cette école simplifie l'entreprise par une fonction de production déterminant le comportement de l'entrepreneur, supposé rationnel. Ce dernier est guidé par un objectif unique de maximisation du profit (de l'utilité) à partir de l'utilisation de deux facteurs de production (le capital et le travail) dans une économie où règne une concurrence simplifiée (pure et parfaite)Par exemple pour Alfred Marshall, Principes de l'économie politique, 1890. L'entreprise est perçue comme un point et un automate. La théorie économique explique alors l'existence de l'entreprise par le facteur technologique : l'entreprise est le lieu permettant de transformer certains inputs (travail, capital fixe, capital circulant, capital humain) en outputs (biens et services commercialisés sur le marché).

L'article de Ronald Coase, The Nature of the Firm, publié en 1937, marque une des ruptures avec l'approche néoclassique standard de l'organisation. À partir des années 1940, il se développe en effet un ensemble d'approches alternatives ambitionnant de répondre à diverses questions : Pourquoi existe-t-il des entreprises et diverses autres formes d'organisations ? Comment se comportent les organisations, en tant qu'entités économiques distinctes ? Comment s'organise la production au sein des entreprises ? Comment fonctionnent les organisations ? Comment expliquer les diverses trajectoires suivies par les organisations ? Quels sont les déterminants de leur évolution ? Comment font-elles face aux transformations récentes de leur environnement ?

L'œuvre de Masahiko AokiMasahiko Aoki, "Vers une théorie économique de l'entreprise japonaise", 1990 conduit de plus à repenser l’articulation entre institutions, organisations et agents individuels, articulation seule à même de saisir la dynamique historique des économies. Pour lui, l'organisation doit réaliser le choix entre gain de spécialisation et communication horizontale pour une coordination optimale comme celle observée dans les entreprises japonaises des années 1990. Une coordination entre les apporteurs de capitaux et avec les salariés par la médiation du manager est ainsi révélée.

Ces ruptures nous amènent à regrouper les différentes théories économiques modernes de l'organisation en trois catégories : les approches « contractualistes », les approches « cognitivistes » et les approches « politiques ».

Les approches contractualistes Les approches contractualistes de l'organisation renvoient à la branche néoclassique de la nouvelle économie institutionnelle (on parlera de « théorie standard étendue ») : l'entreprise y est conçue comme un « nœud de contrats »L'expression est, semble-t-il, attribuée à M. C. Jensen et est une traduction de l'expression contracting nexus. à partir desquels est organisée la production.

La théorie des coûts de transaction

L'article de 1937 de CoaseRonald Coase, La nature de la firme, 1937 marque la naissance du concept de coût de transaction, concept au centre des approches contractualistes des organisations. Dans cet article, Coase tente de déterminer les raisons pour lesquelles il existe, à côté du marché, des modes alternatifs de coordination des activités des agents économiques tels que les organisations et plus spécifiquement l'entreprise.

Pour Coase l'explication vient de ce que le recours à la coordination marchande, c'est-à-dire par le système de prix, entraîne des coûts de trois sortes : « coûts de recherche et d’information » (par exemple, coûts liés à la découverte des prix adéquats), « coûts de négociation et de décision » (par exemple, coûts de négociation et de conclusion des contrats), « coûts de surveillance et d’exécution » (par exemple, coûts liées à la surveillance des prestataires)Ces catégories sont définies par Dahlman C. J., « The Problem of Externality », The Journal of Law and Economics, vol. 22, n° 1, avril 1979, p. 148 cité par Coase R., L’entreprise, le marché et le droit, éd. d'Organisation, 2005, p. 23.. Cet ensemble est regroupé sous le terme générique de coûts de transaction.

Coase affirme alors que les agents préféreront recourir à un mode de coordination alternatif, fondé sur la hiérarchie et non sur le système de prix, à partir du moment où les coûts de transaction liés à la coordination marchande dépasseront ceux liés à la coordination hiérarchique (cette relation est connue sous le nom de « Théorème de Coase »). La relation inverse est évidemment également valable. Avec Coase, marché et hiérarchie sont donc conçus comme les deux formes alternatives de coordination.

L'intuition de Coase restera plus ou moins ignorée pendant plus de quarante ans. Il faut attendre les travaux de Oliver WilliamsonOliver Williamson, Market and hierarchies, 1975 dans les années 1970 et 80 pour que les intuitions coasiennes soient formalisées, au travers de la théorie des coûts de transaction. Outre Coase, Williamson fonde son approche sur les apports d'une série d'auteurs : J.R.Commons, Herbert Simon, Kenneth Arrow ou encore l'historien Alfred Chandler. Williamson commence par donner des fondements microéconomiques à son approche à partir de deux postulats sur le comportement des agents économiques : d'une part, dans la lignée de Simon, Williamson postule que ceux-ci ne sont dotés que d'une rationalité limitée, ce qui indique que si les agents sont rationnels (i.e. ils ont des préférences et des objectifs qu'ils cherchent à atteindre), ils sont néanmoins limités sur le plan cognitif de telle sorte qu'ils ne peuvent pas calculer tous les états de la nature envisageables avant d'agir. D'autre part, ces mêmes agents sont supposés être opportunistes, c'est-à-dire qu'ils peuvent recourir à la ruse ou à la triche pour parvenir à leurs fins.

Les agents économiques concluent entre eux des transactions. Trois facteurs viennent différencier ces dernières : la spécificité des actifs échangés, l'incertitude et la fréquence. Un actif (matériel, humain, etc.) est dit spécifique quand une transaction requiert un investissement durable et que celui-ci est peu, voire pas du tout redéployable sur une autre transaction. Dans ce cas, l'agent qui engage l'actif dans une transaction se retrouve dans une situation de dépendance vis-à-vis de l'autre partie. Ce lien de dépendance durable qui se crée rend la transaction marchande typique inadaptée car une série de problèmes se pose (contrôle du respect des engagements, définition des règles de partage des résultats de la coopération, etc.). L'incertitude, combinée à la rationalité limitée des agentsHerbert Simon, Modèle d'attitude de choix rationnel, 1957 et à leur opportunisme, induit la probabilité plus ou moins importante de survenance d'aléas liés aux transactions. Plus l'incertitude est importante, plus la structure institutionnelle sous-tendant l'échange doit être en mesure de répondre efficacement à ces aléas. Enfin, la fréquence d'une transaction est fonction croissante de la spécificité des actifs engagés : plus un actif est spécifique, plus les parties engagées sont susceptibles d'être amenées à agir conjointement.

Avec ces données en main, il est alors possible d'énoncer l'idée centrale de la théorie des coûts de transaction : l'arrangement institutionnel choisi (entreprise, marché ou toute forme d'organisation « hybride » [sous-traitance, concession, alliance, réseaux etc.]) sera celui qui minimisera les coûts de transaction plus les coûts de production.

On peut alors esquisser une typologie des différentes formes d'arrangements institutionnels envisageables suivant le degré de spécificité des actifs, l'incertitude et la fréquence des transactions. À niveau d'incertitude donné, Williamson montre ainsi que plus la spécificité et la fréquence sont importantes, plus l'arrangement institutionnel adopté tendra vers une intégration verticale des activités et donc vers un mode de coordination administratif. Williamson indique que l'intégration verticale et l'extension de la coordination hiérarchique sont limitées en raison des problèmes d'incitation et de bureaucratie. L'intégration entraîne des distorsions et des coûts qui lui sont spécifiques.

Deux points supplémentaires sont à noter : d'une part, Williamson s'appuie sur cette grille de lecture pour expliquer l'apparition des nouvelles formes d'organisation et notamment le développement de la structure divisionnelle au cours du , mise en avant par ailleurs par ChandlerChandler affirme que les grandes entreprises modernes, qui se caractérisent selon lui par la pluralité des unités de production (elles sont multi-sectorielles et multi-nationales), se développent au cours du (1976, p. 178).. À partir d'un raisonnement déductif, Williamson tente de montrer que cette forme d'organisation s'est imposée car elle minimise les coûts de transaction en faisant apparaître un marché interne à l'entreprise. D'autre part, Williamson s'éloigne pour partie des analyses originelles de Coase en minimisant l'opposition entre les coordinations marchandes et hiérarchiques. Notamment dans ses travaux les plus récents, Williamson tend en effet à aborder les entreprises comme un nœud de contrats où employés et employeurs sont appréhendés comme des fournisseurs et des clients.

Théories de l'agence et des droits de propriété