Innlent | mbl | 11.9.2026 | 22:00 „Þurfum öll að vera vör um okkur“ Theódór segir meðal annars mögulegt að gervigreind geti fundið áður óþekkta veikleika og nýtt þá til árása á mikilvæg kerfi, svo sem veitukerfi, orkuframleiðslu eða spítala. AFP Magnea Marín Halldórsdóttir [email protected] Setja bókamerki Tengdar fréttir Gervigreind Varað við hættulegri misnotkun gervigreindar Verða að koma böndum á gervigreindina Hversu hættuleg getur gervigreindin orðið? „Gæti drepið okkur öll fyrir lok áratugarins“ Fyrsta lausn sinnar tegundar í Evrópu » Fleiri tengdar fréttir Undanfarna daga hefur mikil umræða skapast um háværar viðvaranir innan gervigreindargeirans um að þróun sífellt öflugri gervigreindar geti að lokum skapað alvarlega ógn við mannkynið. Meðal þeirra sem hafa varað við þróuninni eru fyrrverandi starfsmenn OpenAI og Anthropic, sem segja fyrirtækin vera í kapphlaupi um öflugri gervigreind og að ekki sé ljóst hvernig tryggja eigi stjórn á slíkum kerfum. Í því samhengi ræddi mbl.is við Theódór Ragnar Gíslason, stofnanda og framkvæmdastjóra Defend Iceland, um hvað þessar ógnir gætu þýtt í raun og veru og hvernig hægt sé að nota gervigreindina sjálfa til að verjast þeim. Defend Iceland þróaði fyrsta gervigreindardrifna hakkarann á Íslandi, AI Defender, sem getur sjálfur fundið og sannreynt áður óþekkta öryggisveikleika í tölvukerfum með því að beisla mismunandi gervigreindarmódel sem líkjast sífellt meira vinnubrögðum reyndra sérfræðinga. AI Defender er sjálfstæð vara sem er hönnuð til að keyra samhliða villuveiðigátt Defend Iceland. Villuveiðigáttin byggir á samstarfi fyrirtækja og samfélags svokallaðra heiðarlegra hakkara, sem fá heimild til að leita að veikleikum í kerfum fyrirtækja og tilkynna þá. Theódór Ragnar Gíslason er stofnandi og framkvæmdastjóri Defend Iceland, fyrirtækis sem þróaði fyrsta gervigreindardrifna hakkarann á Íslandi, AI Defender. Ljósmynd/Aðsend Frétt af mbl.is Hversu hættuleg getur gervigreindin orðið? Frétt af mbl.is Íslenskt netöryggisfyrirtæki kynnir gervigreindarhakkara Geta fundið öryggisveikleika í nánast hverju sem er Theódór tekur undir áhyggjur fyrrverandi starfsmanna OpenAI og Anthropic um að þessari tækni fylgi ógn gagnvart mannkyninu. Hann fullyrðir þó að allir sem vinni á sviði netöryggis og gervigreindar séu að hugsa um bæði hvernig megi verjast þessari þróun og um siðferðislegar spurningar sem henni fylgja. „Það er mjög mikilvægt að tala um þetta,“ segir hann. „Þessi nýjustu módel, meðal annars Astra frá OpenAI og svo Mythos á dögunum frá Anthropic, ef það eru ekki settar einhvers konar takmarkanir á þau eða einhvers konar ábyrg stýring í kringum þau, þá geta þau gert alveg ótrúlegustu hluti, fundið öryggisveikleika í nánast hverju sem er.“ Þróunin hafi komið fyrirtækinu á óvart og AI Defender hafi þegar fundið tugþúsundir veikleika. Þannig er það mat Theódórs að hluti af svarinu við þeim hættum sem fylgja sífellt öflugri gervigreind felist í því að nota tæknina gegn sjálfri sér, til að finna veikleikana áður en gervigreindin nýtir þá, líkt og markmið fyrirtækisins er með þróun þess á AI Defender. Frétt af mbl.is Er gervigreindin að verða óþekkjanleg? Árásir á mikilvæg kerfi „Ég held að við þurfum öll að vera vör um okkur og meðvituð um að reyna að beisla þessa tækni á eins ábyrgan hátt og hægt er til þess að verjast áður en eitthvað gerist og eitt af því er að reyna að beisla einmitt tæknina til þess að finna veikleikana áður en þeir eru misnotaðir,“ segir Theódór. Þá sé meðal annars mögulegt að gervigreind geti fundið áður óþekkta veikleika og nýtt þá til árása á mikilvæg kerfi, svo sem veitukerfi, orkuframleiðslu eða spítala. Því þurfi þróun varnarkerfa að fylgja hraðri þróun gervigreindarinnar. Samhliða þessu telur hann að stjórnvöld þurfi að setja skýrar leikreglur en tekur um leið undir þá skoðun að ekki sé einfalt að stöðva þróunina, enda sé tæknin þegar komin í hendur aðila sem geti misnotað hana. Frétt af mbl.is Gates líst ekki á þróun gervigreindarinnar Frétt af mbl.is „Gæti drepið okkur öll fyrir lok áratugarins“ Tengdar fréttir Gervigreind Varað við hættulegri misnotkun gervigreindar Verða að koma böndum á gervigreindina Hversu hættuleg getur gervigreindin orðið? „Gæti drepið okkur öll fyrir lok áratugarins“ Fyrsta lausn sinnar tegundar í Evrópu » Fleiri tengdar fréttir Blogga um frétt Nýjast á mbl.is » Í Smárann að fagna langt fram á nótt „Þurfum öll að vera vör um okkur“ Hvað gerist þegar konur með ADHD ganga í hjónaband? Þrír Íslendingar áfram á næsta stig Haukar með fullt hús stiga Umræðan Fiðrildaáhrif og lítil korn „… miðar að því að draga úr vægi verðtryggingar“ – fyrir hvern? Meira í Umræðunni » Fleira áhugavert Ríkisstjórnin með endurtekið efni Beint: Minningarathöfn í New York Eldisleyfi í höfn þrátt fyrir fordæmalausa andstöðu „Við höfum gengið eins langt og við getum“ Mest lesið Í gær Í vikunni Þiggja fé án þess að vinna handtak „Þvottavélar og örbylgjuofnar út um allan veg“ Dósent leiðréttir þrautseiga mýtu Blaðamenn upplýstu viðmælendur í Leifsstöð Myndir: Svona lítur nýja sundlaugin út Minningarstund um Hönnuh Jane Ásmundur segir af sér í stjórn SÁÁ „Pólitískir aktívistar á launum hjá hinu opinbera“ „Umrædd fyrirmæli voru mistök“ Greip um kynfæri lögreglumanns og kreisti Verða ótryggðir vegna veikinda eða slysa Sakborningar einkum á framfæri sveitarfélaga Ný sundlaug opnuð í Garðabæ Ökumaður krossara handtekinn eftir eftirför Tóku neikvætt í hugmynd um hjúkrunarheimili Trump hringdi í Bjarna og vildi innlima Ísland Gætu þurft að „hækka aðgöngumiðann“ Nærvera Bjarka við kennsluréttindanám afþökkuð Ljósmæður bera ábyrgðina en kerfið segir nei Eldur í fjölbýlishúsi í Hafnarfirði Fjögurra milljarða baðlón opnað í dag Skorað á Þorgerði að segja af sér Þiggja fé án þess að vinna handtak Stöðvaður á 190 km hraða Skordýr fundust í mat skólabarna í hádeginu Smyglaði inn kveikjara og kveikti í Verða ótryggðir vegna veikinda eða slysa Kílómetragjald hækki um 15,9% Talsmenn Já þáðu fé frá Evrópusambandinu Tveir alvarlega slasaðir eftir þriggja bíla árekstur Nýjast á mbl.is » Í Smárann að fagna langt fram á nótt „Þurfum öll að vera vör um okkur“ Hvað gerist þegar konur með ADHD ganga í hjónaband? Þrír Íslendingar áfram á næsta stig Haukar með fullt hús stiga Umræðan Fiðrildaáhrif og lítil korn „… miðar að því að draga úr vægi verðtryggingar“ – fyrir hvern? Meira í Umræðunni » Fleira áhugavert Íslenskt velferðarkerfi er misnotað Trump: „Þess vegna berjumst við í dag“ Flugvirkjar Icelandair greiða atkvæði um vinnustöðvun Ríkisstjórnin með endurtekið efni Mest lesið Í gær Í vikunni Þiggja fé án þess að vinna handtak „Þvottavélar og örbylgjuofnar út um allan veg“ Dósent leiðréttir þrautseiga mýtu Blaðamenn upplýstu viðmælendur í Leifsstöð Myndir: Svona lítur nýja sundlaugin út Minningarstund um Hönnuh Jane Ásmundur segir af sér í stjórn SÁÁ „Pólitískir aktívistar á launum hjá hinu opinbera“ „Umrædd fyrirmæli voru mistök“ Greip um kynfæri lögreglumanns og kreisti Verða ótryggðir vegna veikinda eða slysa Sakborningar einkum á framfæri sveitarfélaga Ný sundlaug opnuð í Garðabæ Ökumaður krossara handtekinn eftir eftirför Tóku neikvætt í hugmynd um hjúkrunarheimili Trump hringdi í Bjarna og vildi innlima Ísland Gætu þurft að „hækka aðgöngumiðann“ Nærvera Bjarka við kennsluréttindanám afþökkuð Ljósmæður bera ábyrgðina en kerfið segir nei Eldur í fjölbýlishúsi í Hafnarfirði Fjögurra milljarða baðlón opnað í dag Skorað á Þorgerði að segja af sér Þiggja fé án þess að vinna handtak Stöðvaður á 190 km hraða Skordýr fundust í mat skólabarna í hádeginu Smyglaði inn kveikjara og kveikti í Verða ótryggðir vegna veikinda eða slysa Kílómetragjald hækki um 15,9% Talsmenn Já þáðu fé frá Evrópusambandinu Tveir alvarlega slasaðir eftir þriggja bíla árekstur