Późniejsze badania nad modelem Chinchilla wykazały, że wiele wcześniejszych modeli miało zbyt wiele parametrów w stosunku do ilości danych treningowych, oraz że przy ustalonym budżecie obliczeniowym liczbę parametrów i liczbę tokenów treningowych należy zwiększać w zbliżonym tempie.
Historia badań W 1950 roku Alan Mathison Turing zaproponował, by możliwość udawania człowieka w zdalnej rozmowie uznać za test inteligencji maszyn (test Turinga). W latach 50. XX wieku zorganizowano pierwsze seminarium poświęcone SI (tzw. Warsztaty w Dartmouth), a także powstało pierwsze laboratorium SI na Carnegie Mellon University, założone przez Allena Newella i Herberta Simona i kilka lat później analogiczne laboratorium w Massachusetts Institute of Technology, założone przez Johna McCarthy’ego.
Termin „sztuczna inteligencja” został po raz pierwszy zaproponowany prawdopodobnie przez Johna McCarthy’ego, który w 1955 r. zdefiniował go w następujący sposób: „konstruowanie maszyn, o których działaniu dałoby się powiedzieć, że są podobne do ludzkich przejawów inteligencji”.