Superintelligens er teoretisk konsept som går ut på at en KI-teknologi kan bli mer intelligent enn noe menneske. Kunstig intelligens i 2026 var mye bedre enn mennesker til å løse noen spesielle oppgaver, men manglet evnen til å lære noe utenfor dens algoritmer. Filosofen Nick Bostrom definerte superintelligens i 1998 som "et intellekt som er mye smartere enn de beste menneskene på nesten alle felt." På engelsk forkortes "artificial superintelligence" til ASI.
Utvikling av en superintelligens IBM fremhever at for å få en kunstig superintelligens må en først oppnå generell kunstig intelligens (AGI), en kunstig intelligens som kan lære på tvers av alle fagfelt, noe som heller ikke eksisterte i 2026.
Carl Sagan foreslo i boken The Dragons of Eden at målrettet biologisk manipulasjon kan avle frem mennesker med større hjerner og så en biologisk superintelligens, en idé Bostrom avviste.
Egenskaper til en superintelligens Amazon har listet opp karakteristikker som trengs for en superintelligens: Den må løse problemer. Den må kunne lære nye ting. Den må kunne logisk resonering. Den må kunne kommunisere. Den må være kreativ og komme med nye ideer.
For å lage en kunstig superintelligens ser IBM for seg at vi må bruke store språkmodeller og bruke mange forskjellige sensorer. Nevrale nettverk brukes i KI i 2026, og vil være svært store og komplekse i en superintelligens. Nevromorf datateknologi, teknologi som etterligner menneskehjernen, kan brukes for å redusere energiforbruket. Evolusjonær databehandling, algoritmer som etterligner evolusjon, kan vise seg nyttig. For å programmere en første superintelligens trengs det sannsynligvis KI-genererte programmer som kan håndtere høyere kompleksitet enn mennesker normalt klarer.
Moral og superintelligens En intelligens som er mye smartere enn mennesker kan gjøre valg som anses som umoralske eller irrasjonelle. Nick Bostrom tenker at en superintelligens som er lært opp til at binders er bra kan gjøre hele galaksen om til binders, og at behovet for etiske regler er nødvendig.
Pave Leo XIV uttrykte i sin første encyklika, Magnifica Humanitas , bekymring for at KI opererer med "et innebygd sett av insentiver og begrensninger som i blant kan være i konflikt med å gjøre det rette". Paven skrev også at: "Ingen algoritmer kan gjøre krig moralsk akseptabelt".
Den amerikanske politikeren Bernie Sanders kom 23. september 2026 med en lovforslag med forbud mot å utvikle superintelligens.
Språklige utfordringer Donald Trump sa i sin tale til FN 22. september 2026 at "bruken av orden kunstig får det til å høres falskt ut" og ba sin administrasjon om å slutte å bruke begrepet "artificial intelligence" og heller bruke et nytt begrep "super intelligence". https://www.bbc.com/news/videos/c8n5d9x10v14o
Referanser
Kategori:Kunstig intelligens