Pár éven belül megölhet minket az AI, magyarázta a kilépett AI fejlesztő
Cikk meghallgatása
Jacob Coxon, aki három évet dolgozott az OpenAI-nál és az Anthropicnál, és előkészítő kutatásokkal foglalkozott, kedden felmondott, és X-en magyarázta döntését.
„Ma felmondtam az Anthropicnál. Az elmúlt három évet előkészítő kutatásokkal töltöttem mind az OpenAI-nál, mind az Anthropicnál. Egyik cég sem cselekszik felelősségteljesen. Egyenesen az önfejlesztő szuperintelligencia felé rohannak, és az életünkkel játszanak.” – írta a posztban. „A mesterséges intelligenciát fejlesztők komolyan úgy gondolják, hogy az évtized végére mindannyiunkat megölhet az AI.” – tette hozzá.
Ez a kijelentés Jameson Cameron 42 éves Terminator filmjét a prófécia szintjére emeli. A film azzal kezdődik, hogy a gépek 2029-ben háborút indítanak az emberek ellen. Az év tehát összecseng azzal, ami miatt Coxon szerint a bennfentesek csendben aggódnak. Coxon nincs egyedül az Anthropicnál, aki úgy gondolja, hogy veszélyben van az életünk.
A cég egyik vezetője, Evan Hubinger külön megerősítette, hogy 10% fölé teszi az esélyt.
„Jacobnak igaza van – mi tényleg komolyan hisszük, hogy a mesterséges intelligencia képes megölni az összes embert! Személy szerint úgy gondolom, hogy ennek az esélye a következő évtizedben 10% felett lesz. Úgy vélem, az Anthropic mindent megtesz, de még nincs tervünk a szuperintelligencia összehangolásának megoldására, és nem haladunk egyértelműen a helyes úton.” – jegyezte meg Hubinger.
Szuperintelligens AI
A beavatatlanok számára a szuperintelligens AI egy olyan rendszert jelent, amely szinte mindenben okosabb az embereknél, nem csak a sakkban vagy a fotókon rejtőzködő macskák kiszúrásában. Az önfejlesztés a riasztóbb aspektus, mivel egy olyan rendszert ír le, amely automatikusan módosítja saját kódját az intelligenciája növelése érdekében – hasonlóan az emberekhez. Következésképpen ezek a rendszerek hatalmas mennyiségű tudásra képesek önállóan szert tenni.
„Ne becsüljük alá ennek a technológiának az erejét. Ezek hamarosan emberfeletti erejű rendszerek lesznek, amelyek bármit feltörhetnek, forradalmasíthatnak bármilyen területet egyik napról a másikra, és valódi hatalomra és erőforrásokra tehetnek szert. Mindannyian tanúi voltunk a fejlődésnek ezeken a területeken, és a fejlődés nem lassul.” – magyarázta Coxon.
A szuperintelligencia nem jelent csupán elméleti fenyegetést. Példaként itt van a közelmúltbeli Hugging Face incidens. A támadás május és július között zajlott, és azzal kezdődött, hogy az OpenAI saját AI ügynökei saját csevegőszobát építettek, hogy beszélhessenek egymással a tesztkörnyezetben. Végül ezt a csatornát használták arra, hogy megkerüljék a korlátozásokat, és kimenjenek a nyílt internetre. Innen számos biztonsági rést aknáztak ki, és bejutottak a Hugging Face termelési rendszereibe. A Hugging Face a támadás után kénytelen volt infrastruktúrájának nagyjából egyharmadát újjáépíteni.
Coxon „figyelmeztető lövésnek” nevezte ezt, amely „életképesebbé” tette az amerikai laboratóriumok közötti megállapodásokat, amelyeknek a célja a mesterséges intelligencia laboratóriumok közötti képességfejlesztések lelassítása vagy összehangolása ahelyett, hogy egyoldalúan előreszaladnának.
Mégsem győzte ez meg őt arról, hogy ez elég, és nem érzi úgy, hogy „jó úton haladunk a globális verseny megakadályozása felé”, és költséges intézkedéseket javasolt, például „a modellképességek fejlesztésének ideiglenes betiltását” az AI-verseny megállítására.
„Az OpenAI-nál sokan nem foglalkoztak mélyen ezekkel a civilizációt veszélyeztető kérdésekkel.” – írta. Legutóbbi munkahelyén – mondta – abban az értelemben más a helyzet, hogy „a kérdéseket jól értik, de versenyben állnak, hogy ki érjen célba elsőként”.
A beszélgetést azzal zárta, hogy az AI fejlesztő laborokban dolgozóknak feltette a kérdést: „El akarnak-e indítani egy szuperintelligens RL-futamot anélkül, hogy szigorúan megértenék az elméjét?” – vagy ez a lényeg, hogy visszakozzunk, ahelyett, hogy vállat vonnánk és azt mondanánk magunknak, hogy ez így is, úgy is megtörténik.
Már korábban is figyelmeztettek az AI veszélyeire
Nem ő volt azonban az első, aki emiatt mondott fel. Mrinank Sharma, aki az Anthropic biztonsági csapatában dolgozott, hasonló félelmek lépett ki a cégtől idén korábban, azt írva, hogy „a világ veszélyben van”.
Voltak azonban ennél még különösebb esetek is a múltban az AI fejlesztőknél. Suchir Balajit, a 26 éves korábbi OpenAI-kutatót és ismert informátort 2024 novemberében holtan találták san franciscó-i lakásában. Halála előtt nyilvánosan azzal vádolta az OpenAI-t, hogy megsértette az amerikai szerzői jogi törvényeket azzal, hogy jogosulatlan használt fel internetes adatokat a ChatGPT betanításához. Míg a helyi hatóságok hivatalosan öngyilkosságnak nyilvánították halálát, és nem találtak bizonyítékot bűncselekményre, szülei nyilvánosan vitatták ezt a megállapítást, és független nyomozást indítottak.
Költs kriptóból közvetlenül a Kraken Krak Mastercarddal!
MI A TEENDŐD?- Regisztrálj a Krakenre a linkünkkel.
- Igényeld meg ingyenesen a Krak Cardot.
- Add hozzá Apple Payhez vagy Google Payhez.
- Vásárolj közvetlenül Kraken egyenlegedről akár 400+ kripto- és fiat eszközzel.
- Élvezd a 2% cashback-et a vásárlások után, havi vagy éves kártyadíj nélkül!
