Mesterséges intelligencia
Nadella: minden AI-modellt eleve kompromittáltnak kell tekinteni
Satya Nadella, a Microsoft vezérigazgatója szerint a fejlett AI-modelleket eleve kompromittáltnak kell feltételezni, és ennek megfelelően kell kezelni őket. Hosszú bejegyzésében átláthatóságot, független auditot és egy mindig elérhető vészféket sürget.
Nadella olyan rendszereket szeretne, amelyek megfigyelhetők, korlátozhatók, és manipulálhatatlan, ember által olvasható nyomot hagynak maguk után. Ez azt jelenti, hogy utólag mindig vissza lehessen követni, mit csinált egy AI-rendszer, és ezt a nyomot ne lehessen meghamisítani. Az ilyen naplózás alapfeltétele lenne a felelősség megállapításának is.
Feltételezzük, hogy kompromittált
Kiindulópontja, hogy a modellt eleve kompromittáltnak kell feltételezni, és el kell zárni (containment). Ez a kiberbiztonságból ismert gondolkodásmód: ahelyett, hogy megbíznánk egy rendszerben, abból indulunk ki, hogy bármikor rosszul viselkedhet, és ennek megfelelően korlátozzuk. A Microsoft vezérigazgatójától ez a hozzáállás erős üzenet az egész iparágnak.
Egy arra jogosult embernek Nadella szerint mindig képesnek kell lennie arra, hogy feladat közben szüneteltesse vagy leállítsa a modellt. Ez a „vészfék”. A gondolat egyszerű, de a gyakorlatban nem triviális: egy önállóan dolgozó ügynök sok lépést hajthat végre gyorsan, ezért a leállítás lehetőségét a rendszer tervezésekor kell beépíteni, nem utólag.
Ajánlásai között szerepel az időben történő incidensbejelentés, a független audit és az ellenőrizhető adatok is. A fejlettebb modellekhez Nadella szerint fejlettebb elzárási technológiák kellenek, amelyeket szabványosítani is kell, hogy az egész iparág ugyanazokat a biztonsági mércéket alkalmazza, ne csak egyes cégek a saját belátásuk szerint.
Szuperintelligencia és nyitott kérdések
Nadella a bejegyzésben végig „szuperintelligenciaként” beszél az AI-ról, ami a szuperintelligenciáról szóló iparági vita része. A The Verge ezt „The AI Superintelligence Slowdown” címke alatt gyűjti. Több iparági szereplő is hasonló dolgokat követel: incidensbejelentést, auditot és a modellek elzárását, ami arra utal, hogy kezd kialakulni egy közös biztonsági szemlélet.
Több kérdés nyitva maradt. Nem egyértelmű, hogy a „kompromittált” szón támadott, félrevezetett vagy saját célokat követő modellt ért-e Nadella, és az sem, hivatkozik-e konkrét Microsoft-termékre, szabályozásra vagy a cég saját vállalásaira. A bejegyzés pontos szövegét és dátumát a beszámoló az X-en nem ellenőrizte közvetlenül.