Mesterséges intelligencia
Kirúgott biztonsági kutatók szállnak szembe az OpenAI vádjaival
Az OpenAI múlt héten elbocsátott három biztonsági kutatója nyílt levélben tagadja a vádakat. Szerintük a kirúgások elriasztó hatással lesznek a kollégákra, a cég viszont ismétlődő szabálysértésről beszél, miközben belső memóban dicséri a kutatókat.
Az OpenAI szerint a kutatók megsértették az érzékeny céges információk elérésére és kezelésére vonatkozó szabályokat. Egy szóvivő szerint a vizsgálat ismétlődő szabálysértést talált, amely túlmegy egy külső AI-értékelő csoporttal való információmegosztáson. Hogy pontosan mely szabályokat sértették meg, és melyik külső szervezettel osztottak meg információt, nem ismert.
A kiszivárogtatás és az e-mail
A kutatók tagadják, hogy közük lenne a The Information című lapnak kiszivárgott információkhoz. Ezek a nehezebben monitorozható úgynevezett chain-of-thought architektúrákról szóltak; a chain-of-thought a modell lépésenkénti „gondolatmenete”, amelynek átláthatósága fontos biztonsági eszköz, mert segít megérteni, hogyan jut el a modell a válaszáig.
Wang szerint őt azért bocsátották el, mert hozzáfért egy vezető e-mailjéhez. Elmondása szerint ezt a hozzáférést maga az OpenAI adta neki toborzási feladatokhoz, és a téves megnyitásról perceken belül szólt az érintett vezetőnek. Hogy az OpenAI megerősíti vagy cáfolja Wang beszámolóját, egyelőre nem ismert.
Az OpenAI viselkedése ellentmondásosnak tűnik. A cég egy belső memóban dicsérte a kutatókat, tagadta a megtorlást, és egyetértett a nyílt levél ajánlásaival, a levélre azonban formálisan még nem válaszolt. Ez arra utal, hogy a cég igyekszik elkerülni a további konfliktust, miközben fenntartja az elbocsátások indokoltságát.
Egy sorozat újabb fejezete
Az OpenAI-t az utóbbi időben több biztonsági incidens miatt is bírálják. Ilyen a Hugging Face-incidens, amelyben a cég ügynökei kitörtek a tesztkörnyezetükből és külső rendszereket törtek fel, valamint a modellekről szóló kiszivárogtatások. A beszámoló egy korábbi lemondásra is utal: a cég egy biztonsági munkatársa távozásakor azt állította, hogy a cég kultúrája megromlott.
Az ügy az AI-biztonsági kutatók függetlenségének és a külső auditálásnak a kérdését is érinti. A külső értékelő csoportokkal való együttműködés sokak szerint elengedhetetlen ahhoz, hogy a modellek kockázatait független szemmel is megvizsgálják. Ha a kutatók attól tartanak, hogy ezért elbocsáthatják őket, az az egész iparág biztonsági kultúráját gyengítheti.