Anthropic onthult Chinese openbaar ministerie AI-uitbreiding "stabiele" bewaking: buitenlandse bezwaar accounts en bezoekers in dezelfde tracking-keten

Een Amerikaans bedrijf voor kunstmatige intelligentie.Anthropic onthult bedreigingsinformatie op 10 septemberHoe de Chinese lokale veiligheidssystemen geprobeerd hebben om gebruik te maken van de generatie van AI om "stabiele" bewaking te bevorderen, wordt in een openbaar verslag gepresenteerd. het rapport stelt dat de operatoren die verband houden met de Chinese gemeentelijke veiligheid en nationale veiligheidssystemen gebruikten van Claude om een proces voor het bewaken van de publieke opinie op te zetten, een overheidsbewakingsdatabase te raadplegen en dagelijkse rapporten te genereren. Het X-account "Lee is niet je leraar" werd duidelijk vermeld als een van de onderzochte objecten.Reuters rapporteerde vervolgens onafhankelijk over de belangrijkste bevindingen die betrekking hadden op surveillanceactiviteiten in China.. .

Van een buitenlandse bezwaarrekening om te zien hoe het toezicht de grens overschrijdt

Anthropic in het geval met nummer GTG-14021Het doel van de actie gaat van binnenlandse bezoekers en mensenrechtenverdedigers tot Hongkong-democraten, organisatoren van het vierjarig herdenkingsfeest, Oeigoerse initiatieven en internationale mensenrechtenorganisaties. Figuur 6 in het rapport toont rechtstreeks het account "Lee is niet je leraar" en toont aan dat het een van de accounts is waar de actie wordt bewaakt.

Anthropic beschrijft deze groep acties als "stabilisatie" monitoring en transnationale repressieve activiteiten uitgevoerd door Chinese lokale veiligheidsdiensten en nationale veiligheidsdiensten.

Dit betekent dat een buitenlandse account die bekend staat om het ontvangen van protesten in China, arbeidsconflicten en gepubliceerde gecensureerde informatie, in de technische logica van de relevante beveiligingssystemen wordt opgenomen in hetzelfde kader voor het verzamelen van informatie als binnenlandse sleutelpersonen en buitenlandse maatschappelijke organisaties.

Drie operationele ketens: internetpolitie, schoolpersoneel van de politie en de lokale nationale veiligheidsdienst

De naam van de betrokkenen wordt niet openbaar gemaakt, maar het rapport geeft een afbeelding van de organisatie met verschillende mate van geloofwaardigheid van de betrokkenen.

• Gemeentelijke netwerkautoriteit : gebruik Claude Code en aangepaste functies voor het uitvoeren van binnenlandse bewakingsprocessen van de publieke opinie, het raadplegen van overheidsbewakingsdatabases en het maken van politiek gevoelige gebeurtenissen logboeken;
• openbare veiligheid onderzoeker en graduate student van de politie school: melding dat ze 10 Chinese particuliere burgers hebben geclassificeerd als zogenaamde "beheersing" objecten en hebben gevraagd om aanbevelingen te genereren;
• lokale nationale veiligheidsbestuurders: het produceren van dagelijkse "situatie perceptie" briefings, het monitoren van buitenlandse tegenstanders en maatschappelijke organisaties, en het verzamelen van pre-actie informatie over legitieme protest

Anthropic zei dat het oordeel van de lokale nationale veiligheidsdienst in Zhejiang als gemiddeld betrouwbaar is en geen specifieke steden of instanties heeft genoemd in het verslag, dus in dit stadium kan de verantwoordelijkheid niet verder worden toegerekend aan een niet-openbaar bevestigde lokale nationale veiligheidsdienst in Zhejiang.

“De publieke opinie wordt niet alleen gelezen, maar ook beoordeeld, geclassificeerd en omgezet in het object van de bestrijding.”

Een ander China-gerelateerd project, GTG-14022, dat in het rapport werd onthuld, toonde aan dat een commerciële aannemer die volgens Anthropic zou kunnen werken voor overheidsklanten, Claude had gevraagd om te spelen als "senior emergency public opinion analist in dienst van de regering van de Volksrepubliek China", die dagelijks ongeveer 15 tot 30 inhoud van platforms zoals Microsoft, X, YouTube, Telegram en Facebook behandelde en beoordeelde op basis van politieke gevoeligheid.

Onder de toezichthouders bevinden zich arbeiders- en studentenactiviteiten, Oeigoerse en Tibetaanse gemeenschappen, Taiwanese politici, buitenlandse dissidenten, religieuze groeperingen, buitenlandse media en internationale mensenrechtenorganisaties.

* De kunstmatige intelligentie verplaatst de traditie van menselijke opvattingen naar replicabele workflows

Het is niet de eerste keer dat de beveiligingspersoneel de tegenstanders bewaakt, maar de monitoring wordt geprogrammeerd en gestandaardiseerd, aldus Anthropic, in een geval schreef de operator de workflow als een AI-handboek voor andere personen in het kantoor; in een ander geval gebruikte de automatische browser extractie, overheidsdatabase-verzoeken, bedrijfscommunicatie-instrumenten distribueren, informatie verzamelen naar de hogere rapportage in een continu proces.

Het hoofdgebouw van het Beijing Ministry of Public Security kan alleen worden gebruikt als institutionele achtergrondinformatie van het Chinese publieke veiligheidssysteem, en is niet betrokken bij de gemeentelijke veiligheidseenheden die door Anthropic worden genoemd. Het rapport zelf heeft de specifieke naam van de gemeente niet openbaar gemaakt, dus het onderzoek van de verantwoordelijkheid vereist nog meer interne documenten, aanbestedingsdocumenten of lokale systeembouwinformatie om verder te worden vergrendeld.

De technologische kosten van grensoverschrijdende repressie dalen

Volgens een Reuters-rapport van Anthropic zijn ook Oeigoeren, Tibetanen, Taiwanese politici en activisten het doelwit van de bewaking, terwijl Anthropic de accounts heeft geblokkeerd en een breder scala aan digitale kenmerken van de exploitanten begint te volgen.

Deze onthulling brengt de risico's van Chinese tegenstanders in het buitenland naar een nieuw stadium: grensoverschrijdende bewaking vereiste in het verleden een grote hoeveelheid kunstmatige verzameling, vertaling en verwerking, en nu kan AI beveiligingsinstanties helpen om informatie over platforms automatisch te grijpen, personage-archieven op te bouwen, zogenaamde politieke gevoeligheid te beoordelen en producten te vormen die rechtstreeks kunnen worden gerapporteerd. De geografische grenzen van grensoverschrijdende repressie worden verder technisch verwijderd wanneer de "stabilisatie" databank binnenlandse en sociale platforms in het buitenland worden toegankelijk.

De volgende zijn de identiteit van de niet-openbare lokale instellingen van Anthropic, de overheidsopdrachten en contractantenrelaties van het monitoringssysteem, en of de "controle" suggesties die door deze AI zijn gegenereerd, zijn omgezet in realistische intercepties, afspraken, exitbeperkingen of intimidatie in het buitenland.