OpenAI har indgået en aftale med Polens nationale forskningsinstitut NASK om samarbejde inden for AI-sikkerhed og teknisk forskning. Det offentliggør selskabet fredag den 23. oktober. Reuters har samme dag omtalt aftalen.

Samarbejdet skal blandt andet undersøge, hvordan stadig mere avancerede AI-systemer kan vurderes, hvordan sårbarheder kan findes, og hvordan sikkerhedsforanstaltninger kan forbedres. Hos NASK er det instituttets AI Safety Research Center, der skal deltage.

Det er en forskningsaftale, ikke en ny AI-model eller en lancering af et produkt. Offentliggørelsen dokumenterer heller ikke i sig selv, at et bestemt system er blevet sikrere.

Et offentligt institut på den anden side af bordet

NASK beskriver sig som et nationalt forskningsinstitut med speciale i cybersikkerhed. Instituttet arbejder også med kunstig intelligens og cloudteknologi og udvikler løsninger til offentlige institutioner, virksomheder og borgere.

Arbejdet omfatter blandt andet sikkerhedsgennemgange, beskyttelse mod netsvindel og digitalisering af den offentlige sektor. Instituttet er dermed ikke blot en kommerciel kunde, der køber en AI-tjeneste, men en offentlig forskningsaktør med egne sikkerhedsopgaver.

OpenAI fremhæver, at den polske partner kan bidrage med viden om blandt andet syntetisk indhold og risici på tværs af sprog. Det er selskabets beskrivelse af samarbejdets muligheder, ikke en fremlagt måling af effekten.

Test, sårbarheder og sikkerhed er forskellige spørgsmål

En vurdering af et AI-system kan handle om, hvad det kan præstere under bestemte testbetingelser. En undersøgelse af sårbarheder handler i stedet om, hvor systemet kan fejle eller blive udnyttet. Sikkerhedsforanstaltninger skal begrænse sådanne risici.

De tre spor hænger sammen, men er ikke det samme. Et system kan klare en test godt uden dermed at være sikkert i alle situationer. Og en fundet sårbarhed er ikke nødvendigvis ensbetydende med, at den er blevet udnyttet i praksis.

Det er derfor de konkrete undersøgelser og deres resultater, der senere skal vise, hvad aftalen bidrager med. Selve underskriften er ikke en uafhængig sikkerhedsgodkendelse.

Flere centrale detaljer er endnu ikke offentliggjort

OpenAI’s meddelelse angiver ikke et samlet budget, en bindende tidsplan for resultater eller præcise vilkår for offentliggørelse af forskningen. Den beskriver heller ikke nogen dansk deltagelse eller nye danske rettigheder og pligter.

For danske læsere er nyheden derfor først og fremmest et europæisk spor i arbejdet med sikkerhed omkring AI, der bruges på tværs af lande. Det ville være for vidtgående allerede nu at udlægge aftalen som en ændring af sikkerheden i danske organisationers konkrete systemer.

Den væsentlige opfølgning bliver, hvilke test parterne gennemfører, hvilke problemer de finder, og hvor meget dokumentation der bliver tilgængelig for andre forskere og brugere. Indtil da er fredagens nyhed etableringen af samarbejdet – ikke bevis for, at de problemer, det skal undersøge, er løst.