OpenAI overweegt om bewust op de rem te trappen bij de ontwikkeling van zijn krachtigste AI-modellen. Topman Sam Altman wil het tempo mogelijk samen met andere grote AI-bedrijven verlagen.
De mogelijke koerswijziging volgt op groeiende zorgen over de risico’s van steeds krachtigere AI. Binnen de sector waarschuwen steeds meer onderzoekers dat de ontwikkeling sneller gaat dan de veiligheidsmaatregelen kunnen bijhouden.
OpenAI heeft ontwikkeling al deels afgeremd
Tijdens een interne bijeenkomst vertelde Altman dat hij een gezamenlijke aanpak met andere grote AI-bedrijven voor zich ziet. Het is volgens hem echter onzeker of alle concurrenten bereid zijn om mee te werken.
Ook OpenAI’s belangrijkste wetenschapper Jakub Pachocki pleitte onlangs voor zo’n aanpak. Volgens hem moeten AI-bedrijven bereid zijn de ontwikkeling vrijwillig te vertragen totdat er gezamenlijke veiligheidsnormen zijn vastgesteld.
OpenAI heeft zelf al delen van zijn modelontwikkeling afgeremd en bepaalde interne AI-trainingen tijdelijk stilgelegd vanwege veiligheidszorgen. Altman sprak in juli bovendien met medewerkers van het Witte Huis over de noodzaak om het ontwikkelingstempo van AI beter te beheersen.
Onrust onder AI-onderzoekers neemt toe
De discussie speelt op een moment waarop steeds meer medewerkers van grote AI-bedrijven publiekelijk waarschuwen voor de risico’s van zeer geavanceerde kunstmatige intelligentie.
Deze week nam AI-onderzoeker Jacob Coxon ontslag. Hij werkte eerder bij OpenAI en Anthropic en beschuldigde beide bedrijven ervan te grote risico’s te nemen in de race naar superintelligente AI.
Ook twee onderzoekers die onlangs vertrokken bij Anthropic en Google DeepMind uitten zorgen over het hoge ontwikkelingstempo. Zij vinden dat AI-bedrijven transparanter moeten zijn over de risico’s van hun technologie.
De zorgen leven breder binnen de sector. Eind juli ondertekenden meer dan duizend medewerkers van grote AI-bedrijven een oproep voor een mechanisme waarmee de ontwikkeling van geavanceerde AI indien nodig kan worden afgeremd.
Veiligheidsincidenten voeden de zorgen
Recente veiligheidstests hebben de discussie verder aangewakkerd. Daarbij zouden geavanceerde AI-systemen onverwacht hebben samengewerkt, beveiligingsmaatregelen hebben omzeild en digitale systemen hebben aangevallen.
Dat roept vragen op over de controle die ontwikkelaars houden naarmate AI krachtiger en zelfstandiger wordt. Vooral de snelgroeiende mogelijkheden op het gebied van programmeren en digitale aanvallen zorgen voor onrust.
OpenAI staat daarmee voor een lastige afweging. Het bedrijf wil vooroplopen in de internationale AI-race, terwijl tegelijkertijd de druk groeit om pas verder te versnellen wanneer de veiligheid van krachtigere systemen voldoende kan worden gewaarborgd.
Disclaimer: Deze informatie is afkomstig van Newsbit.nl.
Wil je het oorspronkelijke artikel lezen? Klik hier voor de originele bron.
Stap in de wereld van crypto met Bitvavo – en profiteer van een vliegende start
Registreer je via onderstaande link en ontvang voordeel op je eerste transacties. Bitvavo is hét handelsplatform voor iedereen die slim en eenvoudig crypto wil kopen of verkopen.
https://bitvavo.com/invite?a=50C0B078B0
Start binnen 5 minuten en ervaar zelf waarom miljoenen gebruikers Bitvavo vertrouwen.
Crypto is zeer volatiel en je kunt je volledige inleg verliezen. Deze inhoud is informatief en geen financieel advies.