Az amerikai AI-cégek vezetői együtt kérnek lassítást a fejlesztésekben
A legnagyobb amerikai mesterségesintelligencia-fejlesztő vállalatok vezetői közösen kérik, hogy az iparág lassítson az új technológiákkal való kísérletezéssel, mert beláthatatlan következményei lehetnek, ha ebben az ütemben folytatják az újabb és újabb modellek fejlesztését.
A mesterséges intelligencia biztonságos használatáról szóló vita régóta zajlik, de ezen a héten jelentősen felgyorsult. A kérdés az, hogy mennyire veszélyesek az AI-fejlesztések, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre.
Az idei nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen. Közben megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat. Ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből.
Dario Amodei, az Anthropic vezetője egy szeptember 13-án megjelentetett esszében amellett érvel, hogy lassítani kell a modellek fejlesztésének sebességén, mert veszélyes területre tévedtek a nyáron az AI-cégek.
Az Anthropic-vezérrel az iparág más meghatározó szereplői is egyetértenek, ami ebben a személyes és szakmai konfliktusokkal átszőtt világban egyáltalán nem szokványos. Sam Altman, az OpenAI és Elon Musk, a SpaceX vezetői egyaránt arról posztoltak, hogy osztják Amodei aggodalmait, ahogyan Musk írta, „Darionak igaza van”. Két másik amerikai óriáscég van még, akik nem szólaltak meg az ügyben, a Meta és a Google DeepMind, de úgy tűnik, széles szakmai konszenzus van kialakulóban arról, hogy ezt így nem kéne tovább csinálni.
A történethez hozzátartozik, hogy az Anthropic és az OpenAI is mostanában tervezett tőzsdére menni, mindkét esetben több ezer milliárd dolláros üzletekről van szó, a gazdaságtörténet legnagyobb kibocsátásairól. Ebbe a héten fellángoló vita az AI potenciálisan pusztító hatásairól valamelyest bekavart, hogy milyen kimenetellel, azt még nem tudjuk, létezik az az elmélet, hogy ezek az iparági szereplők azért hangsúlyozzák a technológia veszélyességét, mert az felértékeli a terméküket.
A mostani vita egyébként az Anthropicban indult. Három kutatójuk azt állította, hogy az AI egy évtizeden belül kiirthatja az emberiséget. Egyikük, Jacob Coxon, aki korábban az OpenAI-nál is dolgozott, tiltakozásul ott is hagyta a vállalatot, azt állítva, hogy a cégeknél nem veszik kellően komolyan a fenyegetést, amit a saját fejlesztéseik jelentenek a világra.
„Azok, akik az AI-t fejlesztik, komolyan azt gondolják, hogy az évtized végére mindannyiunkat megölhet. Ez nem marketingfogás. Sőt, sok vezető és vezető kutató a sajtóban óvatosan fogalmaz, hogy észszerűnek tűnjenek, de hallom, ahogy ugyanazok az emberek zárt körben elmondják a félelmeiket. Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt” – fogalmazott Coxon, akinek posztjára két megerősítő üzenet is érkezett az Anthropic vezető kutatóitól.
