Mesterséges intelligencia
Karpathy: óriási a szakadék abban, mit gondolunk az AI-ról
Andrej Karpathy szerint a világ nem ugyanazt látja, amikor a mesterséges intelligenciáról beszél. Néhány milliárd alkalmi felhasználó és pár ezer bennfentes között komoly észlelési szakadék húzódik. A számai nem mérésből, hanem becslésből származnak.
Négy réteg, négy különböző valóság
Karpathy számai szerint nagyjából 6 milliárd ember, a népesség mintegy 75 százaléka alig találkozott még LLM-mel. Becslése szerint további 1–2 milliárd ember, körülbelül 20 százalék alkalmi felhasználó, aki jellemzően az ingyenes szintű szolgáltatásokat próbálja ki. Ennél jóval kisebb csoport a nagyjából 20 millió profi (0,2 százalék), akik a legfejlettebb, úgynevezett frontier modelleket matematikai és programozási munkára használják, és AI-ügynökökkel, vagyis önállóan több lépést végrehajtó szoftverekkel egyetlen utasításból nagy projekteket készítenek el. A piramis csúcsán mindössze mintegy 5000 ember (kb. 0,00006 százalék) áll, aki belsőleg fér hozzá a frontier szintű rendszerekhez.
A felosztás lényege, hogy ezek a csoportok szinte más-más technológiát látnak. Aki csak egy ingyenes csevegőfelületen tett fel néhány kérdést, könnyen alábecsülheti a modellek tudását, míg aki napi szinten ügynökökkel dolgozik nagy kódbázisokon, egészen más képet alakít ki. A bejegyzés éppen erről a nagyközönség és a frontier AI-t használók közötti észlelési különbségről szól, amely megnehezítheti, hogy közös nyelven beszéljünk a technológiáról.
Miért látják ennyire másképp?
Karpathy három hajtóerőt nevez meg. Az első a probléma mérete és ambíciója: más eredményt kap az, aki apró kérdésekkel teszteli a modellt, mint aki nagyszabású, összetett feladatot bíz rá. A második a képességek egyenetlensége, amelyet angolul gyakran „jaggedness”-nek neveznek, és amely Karpathy visszatérő témája. A modellek ott fejlődnek a leggyorsabban, ahol a tanítás ellenőrizhető jutalommal működő megerősítéses tanulásra épülhet, vagyis ahol a válasz helyessége automatikusan eldönthető, mint egy matematikai eredménynél vagy egy tesztekkel ellenőrizhető programnál. A harmadik tényező a hozzáférés szintje: az ingyenes, a fizetős és a belső változatok között jelentős különbség lehet.
Ez a magyarázat azt is érthetővé teszi, miért tűnhet ugyanaz a modell hol zseniálisnak, hol meglepően ügyetlennek. Ha valaki olyan területen próbálja, ahol a képességek kevésbé fejlettek, könnyen arra juthat, hogy a technológia túl van értékelve, miközben egy programozó ugyanabban az időben drámai előrelépést tapasztal.
Visszhang és nyitott kérdések
A bejegyzés Karpathy egy április 9-i tweetjének újrahasznosítása, és nagyjából 4 millió megtekintést ért el. A reakciók között Adam Fresko a kézi fúró és a gyár közötti különbséghez hasonlította a helyzetet, signüll pedig csípős megjegyzést tett arra, hogy az emberek mire használják a zsebükben hordott szuperintelligenciát.
Fontos azonban hangsúlyozni, hogy a számok véleményen és becslésen alapulnak, nem mérésen. Nem tudni pontosan, honnan származik a 20 milliós és az 5000 fős szám, és az sem világos teljesen, hogy a hivatkozott áprilisi tweet mit tartalmazott, mert abból csak részlet látszik. A szöveg olyan utalásokat is tartalmaz, mint egy „OpenAI-HF incidens”, 722 matematikai kézirat, zero-day sebezhetőségek vagy ügynökrajok, ezekhez azonban nincs megadva konkrét forrás, és külső megerősítés sem történt. A bejegyzés így inkább egy befolyásos szakember helyzetértékelése, mint adatokkal alátámasztott elemzés, ám éppen ezért jól mutatja, mennyire különböző kép él a mesterséges intelligenciáról a nagyközönségben és a fejlesztők szűk körében.