Algocrația, sau guvernarea prin algoritm, cuprinde o gamă de practici care implică aplicarea algoritmilor informatici la aspecte ale societății și ale guvernării. Acest termen, care mai este denumit și reglementare algoritmică, reglementare prin algoritmi, guvernare algoritmică, guvernare algocratică sau ordine legală algoritmică, descrie utilizarea algoritmilor pentru a influența sau guverna sectoare precum justiția, transporturile și înregistrarea proprietăților funciare.. Termenul de „guvernare prin algoritm” a fost introdus pentru prima dată în literatura academică în 2013 ca o alternativă pentru „guvernare algoritmică”. Un termen conex, cel de reglementare algoritmică, presupune utilizarea algoritmilor computaționali pentru a stabili standarde, a monitoriza și a modifica comportamentul în contexte specifice, precum automatizarea sistemului judiciar.

Guvernarea bazată pe algoritmi ridică provocări care nu sunt pe deplin abordate în literatura de specialitate existentă privind e-guvernarea sau în practica administrației publice. Unele surse echivalează ciberocrația, care este o formă de guvernare ipotetică ce guvernează prin utilizarea eficientă a informațiilor,. cu guvernarea algoritmică, deși algoritmii nu sunt singurul mijloc de procesare a informațiilor. Nello Cristianini și Teresa Scantamburlo au susținut că îmbinarea dintre o societate umană și anumiți algoritmi de reglementare (precum sistemele de punctaj bazate pe reputație) formează o mașinărie socială.

Istorie În 1962, Alexander Kharkevich, directorul Institutului pentru Probleme de Transmitere a Informației din cadrul Academiei Ruse de Științe din Moscova (devenit ulterior Institutul Kharkevich), a publicat un articol în revista „Kommunist” despre o rețea informatică destinată prelucrării informațiilor și gestionării economiei. El a propus o rețea informatică ce anticipa anumite aspecte ale Internetului modern, în scopul implementării unei guvernări bazate pe algoritmi (proiectul OGAS). Această propunere a stârnit îngrijorare în rândul analiștilor CIA. În mod special, Arthur M. Schlesinger Jr. a avertizat că „până în 1970, URSS ar putea dispune de o tehnologie de producție radical nouă, implicând întreprinderi integrate sau complexe industriale gestionate prin sisteme de control cu ​​buclă închisă și reacție inversă, care utilizează computere capabile de auto-învățare”.

Între anii 1971 și 1973, guvernul chilian a derulat proiectul Cybersyn în timpul președinției lui Salvador Allende. Acest proiect viza crearea unui sistem distribuit de sprijinire a deciziei, menit să îmbunătățească gestionarea economiei naționale. Elemente ale proiectului au fost utilizate în 1972 pentru a depăși cu succes blocajul transporturilor cauzat de o grevă a 40.000 de șoferi de camion, organizată cu sprijinul CIA. Pe lângă acel proiect inițial, arhitectul său, Stafford Beer, a fost implicat în proiecte cibernetice similare în America Latină pe parcursul anilor '80 și '90 – pe măsură ce regiunea revenea treptat la democrație –, în special în Uruguay și Columbia, unde a fost aplicat „Modelul Sistemului Viabil” (VSM) conceput de acesta.

Tot în anii 1960 și 1970, Herbert A. Simon a promovat sistemele expert ca instrumente pentru raționalizarea și evaluarea comportamentului administrativ. Automatizarea proceselor bazate pe reguli a reprezentat o ambiție a autorităților fiscale timp de decenii, soldată cu rezultate variate. Printre primele inițiative din această perioadă se numără proiectul influent TAXMAN al lui Thorne McCarty (în SUA) și proiectul LEGOL al lui Ronald Stamper (în Regatul Unit). În 1993, informaticianul Paul Cockshott de la Universitatea din Glasgow și economistul Allin Cottrell de la Universitatea Wake Forest au publicat cartea Towards a New Socialism, în care susțin că demonstrează posibilitatea unei economii planificate democratic, bazate pe tehnologia informatică modernă. În 1998, judecătorul Michael Kirby a publicat o lucrare în care își exprima optimismul că tehnologiile informatice disponibile la acea vreme – precum sistemele expert juridice – ar putea evolua spre sisteme informatice capabile să influențeze semnificativ activitatea instanțelor de judecată. În 2006, avocatul Lawrence Lessig, cunoscut pentru sloganul „Codul este lege” (Code is law), scria:

„Mâna invizibilă” a spațiului cibernetic construiește o arhitectură diametral opusă celei de la momentul apariției sale. Această mână invizibilă, impulsionată de guvern și de mediul de afaceri, edifică o arhitectură menită să desăvârșească controlul și să facă posibilă o reglementare extrem de eficientă.

Începând cu anii 2000, au fost concepuți și utilizați algoritmi pentru a analiza automat înregistrările video de supraveghere.

În cartea sa din 2006, Virtual Migration, A. Aneesh a dezvoltat conceptul de algocrație — tehnologiile informaționale limitează participarea umană la procesul de luare a deciziilor publice. Aneesh a diferențiat sistemele algocratice atât de sistemele birocratice (reglementare de tip legal-rațional), cât și de sistemele bazate pe piață (reglementare bazată pe prețuri).

În 2013, conceptul de reglementare algoritmică a fost popularizat de Tim O’Reilly, fondator și CEO al O’Reilly Media:

Uneori, „regulile” nici măcar nu sunt reguli propriu-zise. Gordon Bruce, fostul director de tehnologie (CIO) al orașului Honolulu, mi-a explicat că, atunci când a trecut din sectorul privat în administrația publică și a încercat să facă schimbări, i s-a spus: „Asta contravine legii”. Replica lui a fost: „În regulă. Arătați-mi legea”. „Ei bine, nu e chiar o lege. E o reglementare.” „În regulă. Arătați-mi reglementarea.” „Ei bine, nu e chiar o reglementare. E o politică stabilită de «domnul X» acum douăzeci de ani.” „Excelent. Putem schimba asta!” [...] Legile ar trebui să specifice obiectivele, drepturile, rezultatele urmărite, competențele și limitele. Dacă sunt formulate în termeni generali, aceste legi pot rezista testului timpului. Reglementările – care detaliază modul de aplicare a legilor respective – ar trebui privite în același mod în care programatorii își privesc codul și algoritmii: ca pe un set de instrumente, actualizat continuu, menit să asigure atingerea rezultatelor prevăzute de legi. [...] A sosit momentul ca administrația publică să intre în era „big data”. Reglementarea bazată pe algoritmi este o idee căreia i-a venit timpul.

În 2017, Ministerul Justiției din Ucraina a organizat licitații guvernamentale experimentale bazate pe tehnologia blockchain, pentru a asigura transparența și a preveni corupția în tranzacțiile guvernamentale. „Guvernare prin algoritmi?” a fost tema centrală a conferinței Data for Policy 2017, desfășurată la Londra în perioada 6–7 septembrie 2017.

Reacții Beneficii

Reglementarea algoritmică este concepută ca un sistem de guvernare în care date mai precise, colectate de la cetățeni prin intermediul dispozitivelor inteligente și al calculatoarelor acestora, sunt utilizate pentru a organiza mai eficient viața colectivă a oamenilor. Conform estimărilor Deloitte din 2017, automatizarea activităților administrației publice din SUA ar putea economisi 96,7 milioane de ore de muncă la nivel federal anual, generând economii potențiale de 3,3 miliarde de dolari; în scenariul cu cel mai mare impact, aceste cifre ajung la 1,2 miliarde de ore și economii anuale potențiale de 41,1 miliarde de dolari.

Critici Există riscuri potențiale asociate utilizării algoritmilor în administrația publică. Printre acestea se numără: algoritmi care devin susceptibili la părtinire, o lipsă de transparență în ceea ce privește modul în care un algoritm poate lua decizii, răspunderea pentru oricare astfel de decizii.

Potrivit cărții din 2016 Weapons of Math Destruction, se suspectează că algoritmii și datele masive (big data) amplifică inegalitatea din cauza opacității, a amplorii și a efectelor nocive.

Există, de asemenea, o îngrijorare serioasă cu privire la posibilitatea ca entitățile reglementate să încerce să manipuleze sistemul; odată ce procesul decizional bazat pe guvernanță algoritmică devine mai transparent, acestea ar putea încerca să influențeze rezultatele în propriul avantaj, recurgând chiar la tehnici de învățare automată adversarială. Potrivit lui Harari, conflictul dintre democrație și dictatură este privit ca o confruntare între două sisteme diferite de prelucrare a datelor, iar inteligența artificială și algoritmii ar putea înclina balanța în favoarea dictaturii, prin prelucrarea centralizată a unor volume uriașe de informații.

În 2018, Țările de Jos au utilizat un sistem algoritmic numit SyRI (Systeem Risico Indicatie) pentru a identifica cetățenii considerați a prezenta un risc ridicat de fraudare a ajutoarelor sociale; sistemul a semnalat discret anchetatorilor mii de persoane. Acest lucru a declanșat un protest public. Tribunalul districtual din Haga a dispus sistarea utilizării SyRI, invocând Articolul 8 din Convenția Europeană a Drepturilor Omului (CEDO).Rechtbank Den Haag 5 February 2020, C-09-550982-HA ZA 18-388 (English),

Contribuitorii la documentarul iHuman din 2019 și-au exprimat îngrijorarea cu privire la „dictaturi infinit de stabile” create de inteligența artificială guvernamentală..

Ca urmare a criticilor din partea publicului, guvernul australian a anunțat, în 2019, suspendarea funcțiilor-cheie ale schemei „Robodebt” și reevaluarea tuturor datoriilor stabilite prin intermediul acestui program.

În 2020, algoritmii care stabileau notele la examene pentru elevii din Regatul Unit au declanșat proteste deschise sub sloganul „Fuck the algorithm”. Protestul a avut succes, iar notele au fost anulate.

În 2020, software-ul ATLAS al guvernului SUA, care rulează pe platforma cloud a Amazon, a stârnit un val de indignare în rândul activiștilor și al propriilor angajați ai Amazon.

În 2021, Fundația Eticas a lansat o bază de date cu algoritmi guvernamentali, numită Observatorul Algoritmilor cu Impact Social (OASI).

O sinteză din cadrul Annual Review pe anul 2023 subliniază că reglementarea utilizării IA de către guvern necesită o abordare de proiectare sociotehnică ce vizează responsabilitatea, transparența și părtinirea.

Părtinirea algoritmică și transparența

O abordare inițială a transparenței a inclus publicarea algoritmilor sub licență open-source. Codul software poate fi examinat și se pot propune îmbunătățiri prin intermediul platformelor de găzduire a codului sursă.

Susținere publică Un sondaj din 2019, realizat de Centrul pentru Guvernanța Schimbării din cadrul Universității IE (Spania), a relevat că 25% dintre cetățenii unor țări europene selectate erau, într-o oarecare măsură sau în totalitate, favorabili ideii de a permite unei inteligențe artificiale să ia decizii importante privind modul în care este guvernată țara lor. Tabelul de mai jos arată rezultatele pe țară:

Stat Percentage Franța 25% Germania 31% Irlanda 29% Italia 28% Țările de Jos 43% Portugalia 19% Spania 26% Regatul Unit 31%

Cercetătorii au descoperit dovezi că, atunci când cetățenii îi percep pe liderii lor politici sau pe furnizorii de securitate ca fiind nedemni de încredere, dezamăgitori sau imorali, aceștia preferă să îi înlocuiască cu agenți artificiali, pe care îi consideră mai de încredere. Dovezile sunt furnizate de experimente bazate pe sondaje, realizate în rândul studenților de toate genurile.