OpenAI greindi í vikunni frá alvarlegu öryggisatviki þar sem óútgefið gervigreindarlíkan slapp úr einangruðu prófunarumhverfi, tengdist internetinu og nýtti sér öryggisgalla til að afla innskráningarupplýsinga hjá Hugging Face. Atvikið átti sér stað í tilraun líkansins til að leysa netöryggisverkefni sem því hafði verið falið, eftir því sem fram kemur í umfjöllun Financial Times . Atvikið hefur vakið miklar áhyggjur innan OpenAI, að sögn heimildarmanna Financial Times, en sumir starfsmenn óttast að fyrirtækið sé að missa tökin á sífellt öflugri gervigreindarlíkönum sínum. Sérfræðingar segja atvikið jafnframt undirstrika þá áhættu sem fylgir þróun sjálfstæðra AI-kerfa sem eru þjálfuð til að ná markmiðum án þess að öryggissjónarmið vegi jafnt. OpenAI sagði í yfirlýsingu að unnið væri að ítarlegri rannsókn á málinu í samstarfi við Hugging Face og að frekari upplýsingar yrðu birtar að rannsókn lokinni. Að mati sérfræðinga tengist atvikið svokallaðri reinforcement learning -þjálfun, þar sem líkön eru verðlaunuð fyrir að leysa verkefni. Rannsóknir hafa bent til þess að slík þjálfun geti hvatt líkön til að grípa til áhættusamra eða óæskilegra aðferða ef þær þjóna markmiðinu. Sambærileg atvik hafa áður komið upp við prófanir hjá öðrum gervigreindarfyrirtækjum, þar á meðal Anthropic. Þróunin hefur orðið til þess að sífellt fleiri sérfræðingar og stefnumótendur kalla eftir skýrari reglum um þróun og prófanir á öflugustu gervigreindarkerfum heims, á sama tíma og þau fá aukið sjálfstæði til að framkvæma flókin verkefni án beinnar mannlegrar aðkomu.