Az AI fejlesztések lassítását szorgalmazza az Anthropic
Cikk meghallgatása
A vállalat szerint a csúcstechnológiát fejlesztő cégeknek összehangolt, ellenőrizhető módszerre van szükségük a fejlesztés lelassításához vagy leállításához arra az esetre, ha a mesterséges intelligencia gyorsabban kezd el fejlődni, mint amennyire a kockázatokat kezelni lehetne.
Az a forgatókönyv aggasztja az Anthropicot, amelyben a technológia már nem várja meg az engedélyt. Csütörtökön a vállalat azzal érvelt, hogy a csúcstechnológiás mesterséges intelligencia fejlesztőinek összehangolt, ellenőrizhető mechanizmust kell kidolgozniuk a fejlesztés lelassítására vagy ideiglenes felfüggesztésére arra az esetre, ha a fejlett rendszerek gyorsabban kezdenek fejlődni, mint amennyire a társadalom képes kezelni a következményeket. A javaslat nem annyira termékbejelentés, mint inkább egy kérés, hogy az iparág állapodjon meg egy fékrendszerről, mielőtt szükség lenne rá.
Az Anthropic szerint nem lehet megállítani a fejlesztéseket
Az Anthropic által megnevezett kiváltó ok a rekurzív önfejlesztés, azaz olyan mesterséges intelligencia rendszerek, amelyek képesek jelentősen felgyorsítani saját fejlődésüket. Ez a képesség „jelentős fejlemény lenne a technológia történetében,” – állította a vállalat – de a teljes rekurzív önfejlesztés „növelheti annak kockázatát is, hogy az emberek elveszítik az irányítást a mesterséges intelligencia rendszerek felett”.
Az Anthropic a saját munkájának automatizálásának jelenlegi állásának indikátoraként közölte, hogy májusban a kódbázisába beépített kód több mint 80%-át a cég saját modellje, a Claude írta.
Az érvelés legélesebb pontja nem az óvatosságra, hanem a koordinációra vonatkozik. Az Anthropic elismerte, hogy ha csak egy vállalat szüneteltetné a fejlesztést, az könnyebben megvalósítható lenne. De ez leginkább csak azt eredményezné, hogy a vezető szerepet az a fél kapná meg, aki továbbhaladna a fejlesztésekkel, így a határvonalat inkább eltolná, mintsem lassítaná.
Egy érdemi szüneteltetéshez a technológiai élvonalban álló „több, megfelelő erőforrásokkal rendelkező AI modell fejlesztő vállalat” közötti megállapodásra lenne szükség, valamint szabályokra arról, hogy milyen feltételek esetén lépne életbe vagy szűnne meg a szüneteltetés, és ki felügyelné az egész rendszert.
Forráskód generálásakor a fejlesztők hozzájárulása
Az önfejlesztéssel kapcsolatos aggodalom nem csupán elméleti spekuláció az Anthropic részéről. A vállalat saját működését hozza fel bizonyítékként. Ha egy modell már most is a következő modell felépítéséhez szükséges kód túlnyomó többségét saját maga írja, akkor a rendszer és saját fejlesztése közötti körforgás már nem csupán elméleti, hanem részleges valóság.
Az Anthropic érvelése szerint ez a körforgás innentől kezdve szűkül, és a fékezésről akkor kell megegyezni, amíg még csak részleges, és nem akkor, amikor már bezárult a lehetőség.
Ez a nehéz rész, és az Anthropic nem is állítja, hogy más lenne. Az ellenőrizhető szüneteltetés azt jelenti, hogy a laboratóriumoknak képesnek kell lenniük megerősíteni, hogy a riválisok valóban leálltak, meg kell állapodniuk abban, hogy mi számít túl gyorsnak, és kell lennie egy olyan szervnek, amelynek jogköre van ezt megállapítani. Ma ezek közül egyik sem létezik, és azok a vállalatok, amelyeknek részt kellene venniük ebben, közvetlen versenytársak egy olyan piacon, ahol az első hely megszerzése a legfontosabb cél.
Az Anthropic válasza az, hogy párbeszédet kezdeményez. A vállalat közlése szerint a következő hónapokban megbeszéléseket tervez szervezni politikai döntéshozókkal, kutatókkal, civil társadalmi szervezetekkel és más AI cégekkel, hogy megvitassák, hogyan lehet kezelni az olyan kockázatokat, mint a rekurzív önfejlesztés, és hogyan lehetne javítani a koordinációs mechanizmusokon. A vállalat úgy pozícionálja magát, mint egy olyan párbeszéd kezdeményezője, amelybe be szeretné vonni az iparág többi szereplőjét is.
Ez a lépés illeszkedik egy olyan vállalat profiljához, amely márkáját arra alapozta, hogy felhívja a figyelmet az általa értékesített termék veszélyeire. A nyilvánvaló ellenvetés magától adódik: egy AI fejlesztő cég, amely azt javasolja az iparágnak, hogy állapodjon meg abban, mikor kell leállni, egyben olyan cég, amely addig folytatja a fejlesztést, amíg ez meg nem történik.
Hogy a versenytársak ezt a javaslatot valódi koordinációs problémának tekintik-e, vagy egy rivális kísérletének a feltételek meghatározására, az a kérdés, amelyre a következő hónapok adnak majd választ. Egyelőre az Anthropic féket tett az asztalra. Senki más nem vállalta, hogy megpróbálja megfogni.