857 model releases, met slechts 9 gelijktijdige beveiligingsresultaten: open monitoring van de AI-runing problemen

Er is een AI beveiligingsnieuws, en de meest prominente figuur is niet het aantal of de prijs van de parameters van het model, maar de..9. SemiAnalyse, een semi-en kunstmatige intelligentie onderzoeksinstituut, publiceerde een enquête van negen hoofdontwikkelaars in China in oktober: van het 857 identificeerbare model tussen 2021 en 15 september 2026 slechts 9 releases werden gepubliceerd op dezelfde datum als de beveiligingsbeoordelingen die overeenkomen met de versie. Dit cijfer is veel specifieker dan de..veilige-test.. aankondiging en is meer verontrustend dan de slogan.

Het onderzoek had betrekking op Ali Baba, byte beats, tumbles, 100 graden, DeepSeek, de donkere kant van de maan, de spectra, Mini Max en de skyracket. Onderzoekers kunnen modelkaarten, technische rapporten en veiligheidsbijlagen vinden die door ontwikkelaars zijn gepubliceerd, en kunnen ten minste één veiligheidsresultaat 31 keer met een specifieke release overeenkomen, of 3,6%; Slechts negen daarvan werden op het moment van publicatie openbaar gemaakt. Er werden nog eens 813 publieke resultaten niet gevonden. De studie waarschuwde duidelijk dat: Er geen openbare bekendmaking was, wat niet betekende dat er geen interne tests waren. De enquête werd geschreven als.96,4 procent van de modellen werden niet getest op veiligheid. die zou in plaats daarvan het echte probleem.. het publiek was niet in een positie om te oordelen.

Overheden en technologiebedrijven gebruiken vaak..security..als een woord dat beide partijen zijn overeengekomen en daarom niet hoeven te worden besproken. Maar wie is er veilig? Voor gewone gebruikers kunnen modellen verkeerd zijn om tools te bellen, gegevens openbaar te maken die aan hen zijn toevertrouwd en om te werken aan autonome missies; Voor het maatschappelijk middenveld is het ook nodig kennisvooroordeel, afwijzing van inhoud en de ruimtebeperkingen van het platform voor expressie te bestrijden. Deze risico's kunnen niet worden samengevat door één enkel officieel propaganda-klas, laat staan door een benchmarktest van het model.

China's huidige AI. governance is meer gericht op online-diensten en naleving van de inhoud, waarbij het platform ervoor moet zorgen dat de productie van inhoud in overeenstemming is met de regelgevingsnormen. Beperkingen op politieke expressie en de opsporing van modellen die cyberaanvallen, misleiding of complexe proxymissies kunnen uitvoeren die niet onder controle zijn, zijn niet hetzelfde veiligheidsmaatregelen. De eerste benadrukt de nationale bevoegdheid over zichtbare inhoud, terwijl de laatste de reële schade benadrukt die technologische capaciteiten kunnen veroorzaken. Wanneer regelgeving vooral gaat over wat het model zegt, is het moeilijk voor de samenleving om te weten wat het kan doen, en dit is een misstap die grote waakzaamheid verdient.

Ook Amerikaanse ondernemingen kunnen geen vertrouwen krijgen. Een ander Reuters rapport op 13 oktober verklaarde dat OpenAI, Antropische en derde partijen discussieerden over de vrijheid van publicatie van veiligheidsrapporten en dat er geen perfect antwoord was op commerciële geheimen en de grens tussen onafhankelijk toezicht. Het punt van vergelijking is niet om een vlekkeloos model voor westerse bedrijven te creëren, maar om aan te geven dat alle modellen die beter in staat worden om externe beoordelingen te ondergaan, openbare bevindingen en publieke ondervraging.

Peking heeft de afgelopen jaren kunstmatige intelligentie gepositioneerd als een strategische hoge grond voor wereldwijde wetenschap en technologie concurrentie, terwijl het beïnvloeden van de bedrijfsvoering door goedkeuring, indiening en gegevenssystemen. Een dergelijke toewijzing van bevoegdheden kan landen helpen om snel industriële hulpbronnen te coördineren of modeluitgevers als eerste aan administratieve regelgeving verantwoording schuldig te maken, in plaats van aan de gebruikers. De inhoud van de test of technisch bestuur kan worden aangepast aan onafhankelijk toezicht is de vraag welke veiligheidsresultaten openbaar moeten worden gemaakt, die moeten worden herzien de lidstaten en de Commissie, en of het verslag bevindingen kan bevatten die schadelijk zijn voor de autoriteiten.

Van de 857 versies presenteerden slechts 9 het publiek de bijbehorende veiligheidsresultaten. We kunnen de resultaten van elk model niet sturen vanuit de nummers die al gevaarlijk zijn, maar we zien een manier om een mismatch te zien: ontwikkelaars hebben volledige technische capaciteit, regelgevers hebben toegang tot markten en gebruikers dragen de gevolgen van technologietoepassingen zonder transparantie. Modellen kunnen wekelijks worden bijgewerkt en de publieke verantwoordelijkheid mag niet permanent te laat komen.