Anthropic, gervigreindarfyrirtækið á bak við Claude, hefur kallað eftir að hægt verði á þróun gervigreindar til að sporna gegn því að mannveran missi stjórn á tækninni. Fyrirtækið gefur til kynna að tæknin sé að þróast það hratt að gervigreindarkerfi muni bráðlega verða fær um að bæta sig sjálf án mannlegrar íhlutunar (e. recursive self-improvement), sem gæti haft í för með sér verulega áhættu fyrir samfélagið. Anthropic, sem er verðmætasta sprotafyrirtæki á sviði gervigreindar í heimi, hefur boðist til að stöðva tímabundið vinnu við þróun öflugra gervigreindarkerfa ef önnur gervigreindarfyrirtæki skuldbinda sig til að gera slíkt hið sama. „Ef það er mögulegt að hægja á þróun þessarar tækni á skilvirkan hátt til að gefa okkur meiri tíma til að takast á við gífurlegar afleiðingar hennar, þá teljum við að það væri líklega af hinu góða,“ skrifuðu stjórnendur fyrirtækisins í færslu á heimasíðu sinni. Þeir vara við að það sé takmarkaður tími til að ná tökum á tækninni, en segjast þó meðvitaðir um að það myndi reynast afar erfitt að ná samkomulagi víða um heim um að hægja á þróun gervigreindartækni, m.a. vegna samkeppni Bandaríkjanna og Kína á þessu sviði. Slíkt samkomulagi myndi fela í sér að fjöldi vel fjármagnaðra rannsóknarstofa víða um heim, sem standa fremst á sínu sviði, yrðu að samþykkja að stöðva eða hægja á þróunarvinnu undir sömu skilyrðum. Jafnframt þyrfti hvert þeirra að geta sannreynt að önnur fyrirtæki hafi í reynd stöðvað þróunarstarf. Anthropic hefur til þessa beðið með almenna útgáfu öflugasta kerfisins síns, Mythos, til að draga úr líkum að á að það gæti verið notað til að framkvæma umfangsmiklar netárásir.