FBI-website heeft toegang tot Ali Qwen: hoe de Chinese open source AI de Amerikaanse overheidstechnologie stapel heeft binnengedrongen

Een van de belangrijkste wetgeving openbare websites van de Amerikaanse overheid, werd onlangs ontdekt dat het Alibaba Qwen-model gebruikte om AI-zoekfunctie te bieden en vervolgens werd ingetrokken na het veroorzaken van veiligheids- en aankoopconflicten. Reuters rapporteerde op 17 september dat de website van het Federal Register, beheerd door het Amerikaanse National Archives and Records Administration, ten minste op 16 september een op Qwen gebaseerde zoekoptie had aangeboden om het publiek te helpen overheidsdocumenten zoals voorgestelde regelgeving te vinden.

Het Federal Register publiceert openbare regels, voorgestelde regels, aankondigingen en presidentiële documenten, maar een model dat door een Chinese onderneming is ontwikkeld, komt in het publieke informatiesysteem van de Amerikaanse overheid en komt overeen met het feit dat Washington enerzijds de nationale beveiligingsbeoordeling van de Chinese AI en chips versterkt en anderzijds bereid is om de beveiliging van AI met Peking te bespreken, waardoor de snelle implementatie van deze kleine technologie een politiek symbool is.

Het gereedschap verdwijnt snel na het verschijnen en de implementatie is nog steeds ondoorzichtig

Volgens Reuters is de Qwen-zoekfunctie op 16 september beschikbaar en werd deze op het moment van het begin van de discussie op sociale media ingetrokken. Het is nog onduidelijk wanneer de functie online is gestart, of deze is geïmplementeerd door een team binnen het Nationaal Archief of door externe aannemers, het model draait op de lokale infrastructuur in de Verenigde Staten of een externe dienst roept.

Deze technische details bepalen de aard van het risico. Als u alleen het Open Weight Model downloadt en lokaal op servers die door de Amerikaanse overheid worden gecontroleerd, hoeft u de gegevens niet naar Alibaba te sturen; als u via een externe API wordt gebeld, moet u verder beoordelen of zoekopdrachten en metadata het overheidssysteem verlaten.

In de privacyverklaring van andere AI-zoekhulpmiddelen benadrukt het Nationaal Archief dat AI-zoekresultaten niet volledig of nauwkeurig kunnen worden gegarandeerd en dat gebruikers terug moeten kijken naar de oorspronkelijke profielverificatie, terwijl ze aangeven dat de informatie van de query anoniem zal worden bewaard.

De controverse is ontstaan tegen de achtergrond van de Amerikaanse overheid die de Chinese technologie streng verdedigt

De Amerikaanse regering heeft de afgelopen jaren een veiligheidsbeleid aangenomen tegenover de Chinese technologievoorzieningsketen.De Verenigde Staten hebben de export van een deel van de geavanceerde chips naar China beperkt, en hebben voortdurend toezicht uitgevoerd op de toeleveringsketen op het gebied van telecommunicatie, drones, verbonden auto's en AI. Het FBI heeft eerder ook beschuldigd dat Chinese bedrijven de Amerikaanse AI-technologie op grote schaal hebben verworven of nagemaakt; Alibaba heeft de beschuldigingen van "replicatie van Anthropic-technologie" ontkend.

John Moolenaar, voorzitter van de US-China Strategic Competition Special Committee van het Amerikaanse Huis van Afgevaardigden, bekritiseerde het gebruik van de overheidswebsite Qwen omdat de federale instanties geen Chinese AI-modellen zouden moeten implementeren zonder beveiligingsbeoordeling. Er zijn ook technische beleidsonderzoekers die erop wijzen dat het Federal Register openbare gegevens verwerkt en dat het risico op directe gegevenslekken beperkt kan zijn als het model volledig lokaal wordt uitgevoerd.

Beide opvattingen zijn niet tegenstrijdig: een specifieke implementatie kan geen feitelijke lekken detecteren en tegelijkertijd de onduidelijkheid blootstellen aan overheidsopdrachten en AI supply chain management processen.De sleutel is niet het label "van welk land" van het model zelf, maar of de overheid weet of de code van het model, de weegschaalversie, de plaats van uitvoering, de datastromen, de update mechanismen en de afhankelijkheid van derden.

Open source-modellen verspreiden het traditionele concept van "leverancier"

In tegenstelling tot gesloten modellen die alleen toegankelijk zijn via de cloud-API van het bedrijf, kunnen open-weight modellen worden gedownload en uitgevoerd door organisaties op hun eigen servers, of worden opnieuw verpakt, verfijnd en geïntegreerd door derden.

Deze architectuur brengt nieuwe problemen met zich mee voor overheidsbeveiligingscensuur. In het verleden werd een softwareproduct gecontroleerd en werd vaak een duidelijke leverancier, licentieovereenkomst en updatekanaal geïdentificeerd; terwijl een open AI-model meerdere keren werd uitgebracht en de werkelijke code, weegschaal, redeneringskader en plug-ins afkomstig waren van verschillende entiteiten. Alleen het verbieden van het netwerken met de oorspronkelijke ontwikkelaars, kan niet automatisch het probleem van modelintegriteit, backdoors, afhankelijkheid van bibliotheken en updates oplossen.

Op zijn beurt biedt open gewicht ook een veiligheidsvoordeel: de overheid kan lokaal worden gedistribueerd zonder gegevens naar de oorspronkelijke fabriek te sturen en het model onafhankelijk testen. Of het veilig is, hangt af van de specifieke implementatie, in plaats van "open" of "gesloten" zelf.

De VS spreekt over AI-beveiliging, deze aflevering biedt een realistisch voorbeeld

De Amerikaanse minister van Financiën Bessent zal dit weekend in New York met de vice-premier van het Chinese ministerie van Buitenlandse Zaken, Ho Chi Minh, praten over onderwerpen zoals AI-beveiliging, open weegschaalmodellen, handel en zeldzame grond.

De Qwen-instrumenten van Federal Register zetten abstracte beleidsdiscussies in een concrete vraag: zou de Amerikaanse overheid het volledig moeten uitsluiten wanneer de Chinese modellen door kosten en prestaties in het wereldwijde technologische ecosysteem zijn terechtgekomen, of een uniform modelbron, dataverkeer en veiligheidsbeoordelingsregels moeten opzetten?

Voor de publieke sector omvatten meer verifieerbare criteria of de modelweight-bron kan worden gevolgd, of de werkomgeving is geïsoleerd, of alle query's in het regeringscontrole-systeem blijven, of het model het netwerk toelaat, of auditlogs worden bewaard, door wie de upgrade wordt goedgekeurd en of het mogelijk is om terug te keren naar traditionele zoekopdrachten na een fout.

Een zoekoptie die is ingetrokken, wordt blootgesteld aan een vacuüm in het beheer van aanbestedingen

Het Federal Register is een van de officiële systemen van de federale overheid die elke dag regels, aankondigingen en presidentiële documenten publiceert. De kernwaarde van het Federal Register is openheid en traceerbaarheid. Elke AI-functie kan alleen worden gebruikt als hulpprogramma en kan geen officiële tekst vervangen.

Er is momenteel geen openbaar bewijs dat Qwen de inhoud van de officiële regelgeving heeft gewijzigd, gegenereerd of gemodificeerd, en er is geen bewijs dat Alibaba toegang heeft gekregen tot gevoelige overheidsgegevens.

Maar het laat zien dat open source AI sneller verspreid is dan veel overheidsinstanties die een gemeenschappelijke aankoop- en beveiligingsstandaard vormen.Een model kan snel in de ontwikkelaarsgemeenschap worden geïntroduceerd en vervolgens overheidswebsites worden geïntroduceerd via aannemers, open source componenten of experimentele functies, en de besluitvormingsketen hoeft niet zo helder te zijn als traditionele grootschalige IT-aanbestedingen.

Na de terugtrekking van de Qwen-zoekopdracht is het echt de moeite waard om na te gaan of het Nationaal Archief de bronnen, gegevensarchitectuur en goedkeuringsprocedures heeft bekendgemaakt en of de federale overheid derhalve transparante beveiligingsnormen heeft opgesteld voor alle AI-modellen in plaats van alleen voor een bepaald Chinese merk.