Clearview Al. George Orwell zou hartelijk lachen

Zien is identificeren

Een commentaar van Bernhard Loyen.

Op 18 januari publiceerde veröffentlichte de New York Times een artikel dat de afgelopen dagen enige aandacht heeft getrokken (1). Het artikel gaat over een startende onderneming die een levendige handel wil drijven in wat miljarden mensen in hun vrije tijd doen offerieren. Gegevens, in dit geval foto’s, portretfoto’s. Deze gemakkelijk opgevulde schatkist, tegenwoordig een harde schijf, wordt nu in verband met de daarvoor ontwikkelde app op de markt gebracht. Deze keer gaat het echter niet om het domme Trallala à la Snapchat of TikTok, maar mogelijk om het einde van het geluk.

Steeds weer – gegevens zijn de nieuwe olie. Bronnen van inkomsten voor findige, technisch onderlegde burgers. Volgens het artikel heeft het Amerikaanse bedrijf Clearview AI de afgelopen jaren zo’n drie miljard toegankelijke beeldbestanden verzameld op öffentlich. Dit betekent dat er, in ieder geval in dit opzicht, geen sprake is van een criminele bedoeling om de beelden illegaal te hebben verkregen, door middel van illegale toegang tot gebruikersaccounts.

Nee, het waren zulke beelden die dagelijks en volstrekt ondoordacht zijn, mogelijk met een discreet restbewustzijn, op de bekende sociale-mediaplatforms van de mensheid offeriert. Het bedrijf Clearview AI heeft bovendien een gezichtsherkenningstechnologie ontwikkeld, die als volgt werkt.

Een bedrijf, instelling of instantie maakt een foto van een persoon of gebruikt het stilstaande beeld van een bewakingscamera, uploadt deze naar de app en ontvangt direct öffentliche foto’s van deze persoon met de bijbehorende links naar de plaatsen waar deze foto’s zijn verschenen. Zo findig, zo twijfelachtig. Nu zal deze app niet meer te downloaden zijn in bekende winkels.

Nee, de Erfinder Mr. Ton, een Australische technicus die in de VS woont, zou zijn product bij voorkeur hebben aangeboden aan wetshandhavingsinstanties. En het is niet alleen maar wetshandhaving. Clearview AI heeft zijn app ook in licentie gegeven aan ten minste een handvol bedrijven voor veiligheidsdoeleinden. Dit feit voedt het huidige debat over de vraag – mag hij zijn gegevensverzameling in verband met zijn „innovatieve“ idee verkopen aan een overeenkomstige markt?

Volgens het artikel heeft het bedrijf tot nu toe geweigerd een lijst te verstrekken aan veröffentlichen van instellingen die haar product al hebben gekocht, d.w.z. die ermee werken. Een Eric Goldman, co-directeur van het High Tech Law Institute van de Universiteit van Santa Clara wordt als volgt geciteerd:

„De mogelijkheden van Bewaffnung zijn eindeloos“(…) „Stel je een afvallige wetshandhavingsinstantie voor die potentiële romantische partners wil najagen, of een buitenlandse overheid die het gebruikt om geheimen over mensen op te graven om ze te chanteren of in de gevangenis te gooien (1).

Discussies over ongebreidelde, d.w.z. verontrustende, ontwikkelingen in deze industrie zijn niet nieuw. Al in 2011 was de toenmalige CEO van Google Eric Schmidt uiterst kritisch en citeerde: Schmidt zei ook dat Google een gezichtsherkenningstechnologie had ontwikkeld, maar had besloten er niet verder mee door te gaan: „We bouwden deze technologie op en hielden haar tegen… nadat we er naar hadden gekeken, besloten we er niet verder mee door te gaan. Hij legde uit dat hij persoonlijk erg bezorgd was over de combinatie van mobiele tracking en gezichtsherkenning, uit angst dat het „op een zeer slechte manier gebruikt zou kunnen worden“ (2).

Seeing Is IDʼing is een zeer veelzeggende studie uit 2012 van het Centrum voor Technologie en Democratie (3). Uitleg op dat moment, citaat:

Facebook, als een van de vele aanbieders, koos voor een iets andere aanpak. De gezichtsherkenningsfunctie van Facebook is ook standaard ingeschakeld voor gebruikers van sociale netwerken. Wanneer een Facebook-gebruiker met gezichtsherkenning ingeschakeld een foto naar Facebook uploadt, zoekt Facebook automatisch naar gezichten in de foto die lijken op die van Facebook-vrienden van de gebruiker en stelt de gebruiker voor om de foto te taggen met de namen van vrienden. Volgens Facebook worden op gezichtsherkenning gebaseerde tags alleen voorgesteld voor vrienden waarmee de gebruiker op häufigsten communiceert.

In 2012 was de conclusie, citaat: „De bezorgdheid over de privacy in verband met gezichtsherkenning wordt verergerd door de wijdverbreide beschikbaarheid van deze krachtige technologieën. Gezichtsherkenning wordt niet langer alleen gebruikt door instellingen met aanzienlijke technische en finanziellen middelen, zoals overheidsinstellingen of bedrijven; het geavanceerde vermogen om unieke gelaatstrekken te herkennen vindt zijn weg naar draagbare consumentenapparatuur en gratis softwarepakketten, en öffnet is de deur naar vele miljoenen gebruikers. Met zo’n brede gebruikersgroep en een grote verscheidenheid aan toepassingen zal de gezichtsherkenningstechnologie worden misbruikt (3).

Acht jaar later zijn de media verbaasd dat de technologie verder is gevorderd en dat mensen of bedrijven er geld aan willen verdienen. Noodzakelijkerwijs moeten eerst de meeste financiers worden gevonden. Zoals bekend hebben degenen die investeren meestal hun eigen belang bij de technische ontwikkeling van een startende onderneming. Bij Clearview AI (4) findet de Amerikaanse miljardair en Paypal mede-oprichter Peter Thiel, die niet verrassend genoeg ook een investeerder is op Facebook, op zoek naar investeerders. Het feit dat de heer Thiel een ander bedrijf heeft opgericht – Palantir – maakt het interessant.

Palantir Technologies, Inc. is een particuliere Amerikaanse leverancier van software en diensten die gespecialiseerd zijn in de analyse van grote hoeveelheden gegevens. Deze capaciteiten werden erkend door de United States Intelligence Community (USIC), gespecialiseerd in antiterrorisme-analyse voor het Amerikaanse Ministerie van Defensie. De cirkel is rond.

Omdat federale beleidsmakers sinds kort niet meer op Made In Germany willen vertrouwen, worden de benodigde experts en programma’s vaak tegen hoge kosten geïmporteerd. Bijvoorbeeld het Palantir Gotham programma voor het Hessische ministerie van Binnenlandse Zaken. Duitse pionier, d.w.z. Türöffner in dit miljard-eurosegment. Maar om te voorkomen dat dit direct wordt opgemerkt en negatief wordt gecommuniceerd, wordt het product hernoemd. Palantir Gotham wordt Hessen-Data.

De theoretische terreurdreiging en de recente scenario’s die zogenaamd niet voorkomen konden worden, hebben technische oplossingsmodellen nodig. De toenmalige minister van Binnenlandse Zaken De Maziere, CDU, wist dit al in 2017, citaat

De sterke staat moet gelijke tred houden met de technische ontwikkelingen en toepassingen van particuliere bedrijven, maar moet deze ook kunnen gebruiken voor haar werk. Dit geldt ook voor het gebruik van DNA-analyse, dat tot nu toe sterk beperkt is door de wet. Biometrische evaluatie, bijvoorbeeld door middel van gezichtsherkenning, moet beslist verder worden ontwikkeld. Een zoekopdracht met behulp van gezichtsherkenning, bijvoorbeeld voor een flüchtigen terrorist, is een belangrijk instrument (5).

De CDU-collega Bouffier, minister-president van Hessen, nam dit idee over en bestelde in april 2018 Palantir Gotham aka Hessen Data (6)(12) bij de Duitse dochteronderneming Palantir Technologies GmbH, gevestigd in Wiesbaden.

Citaat: Dataschroot voor een miljard? Door stiekem en offenen te boycotten en door gebruik te maken van „Trojaanse tellers“ willen honderden initiatiefgroepen, gesteund door de Groenen, de voor mei geplande volkstelling ondermijnen (7). Oh, sorry. Dat was het verkeerde citaat. Het is uit het jaar 1987, toen de oude FRG probeerde de zogenaamde volkstelling te laten uitvoeren. Wie is de huidige regeringspartner van de CDU in Hessen? Juist, de Groenen. Maar dat is alleen nog maar de manier waarop.

De finale installatie werd uitgevoerd door de CDU-minister van Binnenlandse Zaken Peter Beuth. De Big Brother Award 2019 ging daarom naar Hessen, niet verrassend. De reden, citaat:

De Hessische minister van Binnenlandse Zaken Peter Beuth (CDU) ontving de negatieve prijs „Big-Brother-Award“. Het werd hem toegekend voor de Anschaffung van analysesoftware van het Amerikaanse bedrijf Palantir, dat naar verluidt dicht bij de geheime dienst CIA staat. De minister van Binnenlandse Zaken had deze zeer controversiële Überwachungsfirma opdracht gegeven om zijn politiedatabases te koppelen en te analyseren met gegevens van sociale media en andere externe gegevens (…) De software van het bedrijf, die verschillende soorten gegevens kan koppelen, zou worden gebruikt door Amerikaanse inlichtingendiensten zoals de CIA en de NSA en door de Federal Police FBI (8).

We kunnen alleen maar speculeren welke gegevens, afkomstig uit de VS voor een belangrijke update, uit voorzorg direct na voltooiing uit Duitsland zullen worden geback-upt. Het blijft op dezelfde server. Daarom – Geen paniek over de Titanic, dat wist Udo Lindenberg al in 1972 (9).

Heroverweging: In mei 2016 informeerde de krant Die Welt, citaat: Uit de omgeving van de Deutsche Telekom valt op te maken dat CEO Tim Höttges onlangs een ontmoeting heeft gehad met de directie van Palantir getroffen. Telekom wil echter geen details geven (10). In december 2016 zal finden de resultaten van de bijeenkomst bespreken in een interview met een start-up magazine, citaat: „In een interview met Berlin Valley vertelt Telekom CEO Tim Höttges over innovatie in de groep, reizen naar Silicon Valley en de blauwe wereld. Höttges: Maar wat ik het meest interessant vind is dat we steeds meer kunstmatige intelligentie in het bedrijf gebruiken, bijvoorbeeld om ons netwerk te optimaliseren. Of in het callcenter, waar we werken met Eliza, een bot die gestandaardiseerde processen bouwt op basis van taal en waar je niet eens meer merkt dat je tegen een machine praat. Een zeer spannend big-data project is Palantir, waar we proberen met behulp van kunstmatige intelligentie het hele plannings- en financiële budgetteringsproces in de toekomst beter te voorspellen (11).

Ja, opwindende tijden waarin we leven. Samengevat. Een bedrijf uit de VS veroorzaakt momenteel opwinding en irritatie over de toekomst van gezichtsherkenningstechnologieën. De Amerikaanse sponsors van deze start-up zijn op hun beurt eigenaar van bedrijven die recentelijk delen van het Duitse veiligheidsapparaat hebben voorzien van programma’s om gegevens van burgers vast te leggen. Waarschijnlijk met de vriendelijke licentie van de data back-up van de bijbehorende resultaten. Het grootste telecommunicatiebedrijf van Europa, gevestigd in Duitsland, befindet Technologies van dit type worden beschouwd als „opwindend“.

Het is ook spannend om het Palantir-dossier op Police-IT te bestuderen. Het is gekoppeld in de schriftelijke artikelversie (12). Trouwens, als je het woord China in je gedachten hebt bij het lezen van deze informatie, moet je voor de verandering eens twee woorden googelen. Frankrijk en Alicem (13).

Maar dit alles zou niet nodig zijn om te discussiëren als miljarden burgers wereldwijd niet bereid zouden zijn om gratis en vrijwillig overeenkomstige gegevens te verstrekken voor verwerking. Vals of onjuist?

De criminoloog Tobias Singelnstein schrijft in het Grundrechte-Report 2019: „Gegevens zijn alomtegenwoordig, praktisch geen enkel gebied van ons gedigitaliseerde leven kan zonder. Ze vormen een permanent spoor dat onze persoonlijkheid weerspiegelt. Voor de staat en de autoriteiten vloeit hieruit een schat aan mogelijkheden voort (…) Vanuit het oogpunt van de grondrechten staat „Hessen-Data“ in Konflikt met het recht op zelfbeschikking als onderdeel van het algemene persoonlijkheidsrecht uit artikel 2, lid 1, juncto artikel 1, lid 1, van de Basiswet. Met name massale gegevensevaluaties zoals die welke mogelijk zijn met „Hessen-Data“ zetten het beginsel van doelbinding, dat centraal staat in de wetgeving inzake gegevensbescherming, op losse schroeven(14).

Op 21 januari was het 70 jaar geleden dat George Orwell overleed. Zou hij met verbazing kennis nemen van de feiten of gewoon van harte lachen? Op 8 juni 1949 verscheen zijn roman 1984 veröffentlicht. Op dit moment zijn het slechts de hints van parallellen. De afstanden tussen de veranderingen van indrukwekkende fictie naar een zorgwekkende realiteit worden echter met elk decennium korter. Bij het onderzoek naar de tekst van vandaag vond ik de volgende regels (15), citaat: „De aankoop van apparaten die ons voortdurend monitoren, volgen en registreren voor het gemak of een gevoel van veiligheid legt de basis voor een deprimerende toekomst. Zo simpel, zo waar.

Er is de pagina Bewaking onder Bewaking. Bewaking onder toezicht. De vindingrijke burgers voeden deze site, wat gewoon een feit is. Bewaking van burgers. De pagina geeft de mogelijkheid om na te gaan hoeveel camera’s in uw stad, in uw buurt, nu als vanzelfsprekend zijn geïnstalleerd op gebouwen, zowel privé als institutioneel (16) en zo de beweging van de burgers te documenteren. Berlijn staat nu op de 19e plaats van de meest bewaakte steden ter wereld. 39.765 camera’s voor 3,7 miljoen inwoners – vanaf juli 2019 (17).

Men zou eindeloze voorbeelden kunnen geven van hoe deze samenleving steeds verder in een spiraal van Orwelliaanse dimensies terecht komt. Is er Hoffnung? Ja en nee. Er zijn uittreksels uitgelekt uit het zogenaamde Witboek dat de EU eind februari zal presenteren, citaat: Het uitgelekte Witboek van de Commissie bevat het idee van een periode van drie tot vijf jaar waarin het gebruik van gezichtsherkenningstechnologie kan worden verboden op öffentlichen locaties – om de wetgevers in de EU tijd te geven, manieren te vinden om de risico’s in verband met het gebruik van de technologie te beoordelen en te beheren, zoals het recht van mensen op privacy of het risico van discriminerende effecten van vooringenomen algoritmen (18).

Klinkt in eerste instantie ambitieus, maar ik citeer: „Dit zou de rechten van het individu beschermen, met name tegen mogelijk misbruik van de technologie“, schrijft de Commissie, en voegt daar nog aan toe: „Er moet worden voorzien in een aantal uitzonderingen, met name voor onderzoeks- en ontwikkelingsactiviteiten en voor veiligheidsdoeleinden“ (18).

Omvat de formulering van de uitzonderingen voor veiligheidsdoeleinden ook de uitzonderingen die al bestaan of die de burgers nog kunnen verwachten? Hebben wij, het volk, iets geleerd in de afgelopen eeuwen?

Wat is verlichting?

„Verlichting is de uitgang van de mens uit zijn zelf veroorzaakte onrijpheid. Onvolwassenheid is het onvermogen om de ene geest te gebruiken zonder de begeleiding van een andere. Deze onrijpheid is zelf toegebracht wanneer de oorzaak ervan niet een gebrek aan begrip is, maar van vastberadenheid en moed om gebruik te maken van het eigen begrip zonder de leiding van een ander. Sapere aude! De moed hebben om je eigen intellect te gebruiken! is dus het motto van de Verlichting (…)

Luiheid en lafheid zijn de redenen waarom zoveel mensen, die al lang geleden door de natuur zijn vrijgesproken van buitenlandse begeleiding, toch graag minderjarig blijven gedurende hun leven; en waarom het zo gemakkelijk is voor anderen om zich op hun voogden te storten. Het is zo handig om minderjarig te zijn.

Immanuel Kant, Antwoord op de vraag: Wat is Verlichting? in: Berlinische Monatsschrift, december 1784 (19)

Bronnen:

  1. https://www.nytimes.com/2020/01/18/technology/clearview-privacyfacial-recognition.html
  2. https://www.forbes.com/sites/frederickallen/2011/06/01/eric-schmidt-admits-screw-up-identifes-the-big-four-of-the-internet/#50fd6cc413a2
  3. https://cdt.org/wp-content/uploads/pdfs/Facial_Recognition_and_Privacy-Center_for_Democracy_and_Technology-January_2012.pdf
  4. https://clearview.ai/
  5. https://www.faz.net/aktuell/politik/inland/thomas-de-maiziere-leitlinienfuer-einen-starken-staat-in-schwierigen-zeiten-14601852.html? printPagedArticle=true#pageIndex_3
  6. https://www.spiegel.de/netzwelt/netzpolitik/palantir-software-polizeihessen-kauft-bei-umstrittenem-us-unternehmen-a-1201534.html
  7. https://www.spiegel.de/spiegel/print/d-13522320.html
  8. https://ilmr.de/wp-content/uploads/2019/06/MedienechoBBA2019-Auswahl.pdf
  9. https://www.youtube.com/watch?v=nbWt1f13Ia4
  10. https://www.welt.de/print/die_welt/wirtschaft/article154980295/Geheimsache-Palantir.html
  11. https://berlinvalley.com/telekom-chef-tim-hoettges-fehlerkultur/
  12. https://police-it.org/dossiers-2/das-palantir-dossier/it-dersicherheitsbehoerden-quo-vadis
  13. https://www.heise.de/newsticker/meldung/Trotz-Kritik-Frankreich-startet-Online-Identitaetsnachweis-mit-Gesichtserkennung-4546332.html
  14. https://netzpolitik.org/2019/big-data-bei-der-polizei-hessen-sucht-mitpalantir-software-nach-gefaehrdern/
  15. https://www.nbcnews.com/think/opinion/google-nest-or-amazon-ringjust-reject-these-corporations-surveillance-ncna1102741
  16. https://kamba4.crux.uberspace.de/#what
  17. https://www.comparitech.com/vpn-privacy/the-worlds-most-surveilledcities/#CCTV_crime_and_safety
  18. https://techcrunch.com/2020/01/17/eu-lawmakers-are-eyeing-riskbased-rules-for-ai-per-leaked-white-paper/
  19. https://www.uni-muenster.de/FNZ-Online/wissen/aufklaerung/quellen/ kant.htm

+++

Met dank aan de auteur voor het recht om te publiceren.

+++

Referentie foto: Artem Oleshko/ Shutterstock

+++

KenFM streeft naar een breed spectrum aan meningen. Opinieartikelen en gastbijdragen hoeven niet de mening van de redactie te weerspiegelen.

+++

Vind je ons programma leuk? Informatie over de ondersteuningsmogelijkheden vindt u hier: https://kenfm.de/support/kenfm-unterstuetzen/

+++

Nu kunt u ons ook ondersteunen met Bitcoins.

BitCoin-adres: 18FpEnH1Dh83GXXGpRNqSoW5TL1z1PZgZK

Hinterlasse eine Antwort