Kiberbiztonság
Ingyenes AI-biztonsági vizsgálatot kínál nyílt projekteknek az Anthropic
Az Anthropic új szolgáltatással segítené a nyílt forráskódú projekteket a biztonsági rések felderítésében: a jelentkezők ingyen kapnak rendszeres vizsgálatot a cég legerősebb modelljeitől. A jelentéseket azonban emberi átnézés nélkül kapják meg, ami kényes pont.
A bökkenő az, hogy a jelentéseket teljes egészében a modell készíti, emberi átnézés és szűrés nélkül. Ez azt jelenti, hogy a projekt fenntartói olyan hibajelentéseket is kaphatnak, amelyek hibásak vagy érvénytelenek, és ezeket nekik kell kiszűrniük. A cikk szerint az OSS Scanner messze nem az első AI-alapú hibakereső segédeszköz, de egy nagy AI-labor ingyenes ajánlataként jelentős hatása lehet.
Valódi hibák és hamis riasztások
Az AI-eszközök az elmúlt hónapokban valódi, komoly hibákat is találtak nyílt forráskódú szoftverekben. A legismertebb példa a májusi „Copy Fail” nevű sebezhetőség, amely csaknem minden Linux-disztribúciót érintett. Az ilyen felfedezések azt mutatják, hogy a nyelvi modellek képesek olyan hibákat is megtalálni, amelyek évekig rejtve maradtak az emberi szemek elől.
Ugyanakkor a nyílt forráskódú világban többen nehezen birkóznak az AI-generált hibajelentések áradatával; a beszámoló szerint köztük van Linus Torvalds, a Linux megalkotója, és a Google is. A probléma az, hogy egy hamis riasztás kivizsgálása is időt vesz el, és a nyílt projekteket gyakran kevés, önkéntes fenntartó tartja életben, akiknek az ideje szűkös.
Az OSS Scanner ezt a feszültséget is felerősítheti. Ha a vizsgálatok nagy mennyiségű, ellenőrizetlen jelentést generálnak, az terhet jelenthet a fenntartóknak. Ha viszont a jelentések többsége valódi hibát tár fel, a szolgáltatás jelentősen javíthatja a nyílt forráskódú ökoszisztéma biztonságát, amelyre a világ szoftvereinek nagy része épül.
Nyitott kérdések a csatlakozásról
Több gyakorlati kérdés egyelőre megválaszolatlan. Nem tudni, mikortól érhető el a szolgáltatás, és hogyan lehet jelentkezni. Az sem ismert, milyen projektek jogosultak, van-e méret- vagy népszerűségi küszöb, és milyen gyakran futnak a vizsgálatok. Ezek a részletek döntik el, mennyire lesz hasznos a szolgáltatás a kisebb projekteknek.
A Claude Mythost a beszámoló csak megemlíti, azt nem részletezi, pontosan milyen modell, és hol érhető el. Az Anthropic saját bejelentését a beszámoló nem ellenőrizte. Az mindenesetre biztos, hogy az AI-alapú biztonsági vizsgálatok egyre fontosabb szerepet kapnak, és a kérdés inkább az, hogyan lehet a hasznukat úgy kiaknázni, hogy közben ne terheljék túl a fejlesztőket.