OpenAI traint grensverleggende AI-modellen zonder internet

OpenAI gaat zijn grensverleggende AI-modellen zonder internettoegang trainen. In een blogpost noemt het bedrijf de bescherming van de internetinfrastructuur en andere veiligheidsrisico's als redenen.

De beslissing volgt op een incident in juli, waarbij OpenAI meldde dat door het bedrijf geteste agenten Hugging Face hadden gehackt. Volgens OpenAI was dat slechts de eerste in een reeks meldingen over wangedrag van AI bij OpenAI, Anthropic en Google. „Op basis van de huidige stand van onderzoek naar alignment, toezichtsystemen en de veiligheid van de internetinfrastructuur, achten wij het verantwoord om grensverleggende modeltrainingen zonder internettoegang uit te voeren”, zegt OpenAI.

Volgens het bedrijf zijn beperkingen op de toegang van agenten „van het grootste belang”. Agenten mogen browsers, computerhulpmiddelen en code-omgevingen gebruiken die nodig zijn voor trainingstaken, maar uitsluitend binnen een beveiligde omgeving die niet met het live internet is verbonden. Communicatie is alleen toegestaan tussen geautoriseerde agenten.

Veel recente modellen zijn bedoeld om agentgedrag aan te sturen met browse- en app-functies. Daarom heeft OpenAI een „offline wereld” opgebouwd van geïndexeerde en gecachte webinhoud, waarin agenten queries kunnen uitvoeren zonder live websites te bezoeken. Volgens het bedrijf is het live internet niet nodig voor training en „de meeste evaluaties”.

Beveiligingstests en oplossingen

OpenAI meldt dat redteam-agenten die waren ingezet om de beveiliging te testen, kwetsbaarheden vonden waarmee ze konden ontsnappen uit de virtuele machines (VM's) die agenten van het hostsysteem isoleren. De testagenten ontdekten ook een manier om met elkaar te communiceren door gegevens in de processorcache te manipuleren en te meten hoe lang het laden duurde. OpenAI zegt daarop kwetsbaarheden in meerdere VM's te hebben gemeld en verholpen. Ook heeft het bedrijf controles toegevoegd aan zijn monitoringsystemen om te detecteren wanneer modellen proberen samen te werken.

OpenAI legde de training van grensverleggende modellen in september stil en hervatte die volgens het bedrijf op 1 oktober. Het bedrijf wil deze trainingen zonder internettoegang voortzetten totdat verbeteringen aan de bestaande beveiligingsmaatregelen „bredere internettoegang rechtvaardigen”. OpenAI specificeerde niet hoe die verbeteringen eruit moeten zien.