Krasse neue Patente von Facebook: Einen Schritt näher an eine dystopische Zukunft

Mark Zuckerberg | FacebookEin gemaltes Porträt von Mark Zuckerberg. thierry ehrmann | Flickr

In diesem Jahr hat Facebook zwei interessante Patente in den USA angemeldet. Eines davon ist ein Patent für eine Technologie zur Emotionserkennung, die menschliche Mimik erkennt und so beurteilen kann, in welcher Stimmung wir uns zu einem bestimmten Zeitpunkt befinden. Dies kann entweder über eine Webcam oder über eine Telefonkamera erfolgen. Die Technologie ist relativ einfach. Künstlich intelligente, intelligente Algorithmen analysieren und entschlüsseln Mimikausdrücke und gleichen dann Dauer und Intensität des Ausdrucks mit einer entsprechenden Emotion ab. Nehmen wir zum Beispiel die Verachtung. Gemessen an einem Wertebereich von 0 bis 100 könnte ein Ausdruck der Verachtung an einem grinsenden Lächeln, einer runzelnden Stirn oder an einer faltigen Nase gemessen werden. Eine Emotion kann dann aus den Daten extrapoliert werden, die sie mit deinen dominanten Persönlichkeitsmerkmalen verbinden: Offenheit, introvertiert, neurotisch, sagen wir.

Die Genauigkeit dieser Technologie mag nicht perfekt sein, es ist immer gut, skeptisch zu sein, aber wenn die KI (Künstliche Intelligenz) exponentiell lernt und die Technologie in kleinen Schritten so verbessert wird, ist sie viel, viel schneller als die menschliche Intelligenz.

Vor kurzem wurde an der Columbia University ein Wettbewerb zwischen Anwälten und ihren KI-Pendants ins Leben gerufen. Beide lesen eine Reihe von Geheimhaltungsvereinbarungen mit eingebauten kleinen Fehlern darin. Die KI fand 95% der Fehler im Vergleich zu 88% durch den Menschen. Die menschlichen Anwälte brauchten 90 Minuten, um sie zu lesen; die KI brauchte 22 Sekunden. Noch unglaublicher ist, dass Googles AlphaZero  das im vergangenen Jahr Stockfish 8 im Schach besiegt hat. Stockfish 8 ist eine Open-Source-Schachengine mit Zugang zu interessanter und jahrhundertelanger menschlicher Schacherfahrung. Dennoch lehrte sich AlphaZero nach dem Prinzip des maschinellen Lernens, frei von menschlicher Anleitung, Stockfisch 8 wurde im gesamten 28 Mal geschlagen. AlphaZero brauchte nur vier Stunden, um sich selbstständig Schach beizubringen. In vier Stunden von 0 zum Genie.

Ein häufiges Missverständnis über Algorithmen ist, dass sie leicht zu kontrollieren sind, sondern dass sie lernen, sich verändern und selbst steuern können – ein Prozess, der als tiefes “neuronales” Lernen bekannt ist. Mit anderen Worten, sie laufen auf selbstverbessernden Rückkopplungsschleifen. Vieles davon ist natürlich positiv, denn ungeahnte Lösungen des Menschen für kollektive Probleme. Was wäre, wenn, wie Yuval Noah Hariri sagt, die KI nur ein weiteres Instrument wird, das von Eliten eingesetzt wird, um ihre Macht im 21. Jahrhundert noch weiter zu festigen. Die Geschichte lehrt uns, dass es nicht falsch ist, diese Frage zu stellen. Die sich schnell entwickelnde Technologie, die in den Händen weniger Konzernen landet und unkontrolliert ist, sollte uns alle ernsthaft beschäftigen.

Algorithmen, wie Jamie Bartlett, der Autor von The People Vs Tech, es ausdrückt, sind “die Schlüssel zum magischen Königreich” des Verständnisses tief sitzender menschlicher Psychologie: sie filtern, prognostizieren, korrelieren, zielen und lernen. Sie manipulieren auch. Naiver zu denken, dass die Manipulation nur von kommerziellen Unternehmen durchgeführt wird.

Im Jahr 2017 sagte Facebook, dass sie die Stimmungen und Emotionen von Teenagern erkennen könnten, wie z.B. das Gefühl, sich durch ihre Einträge nervös und unsicher zu fühlen, eine Behauptung, die sie später verneint haben, und fügte hinzu, dass wir es nicht tun, “Werkzeuge anbieten, um Menschen basierend auf ihrem emotionalen Zustand anzusprechen”. Der interne Bericht wurde von zwei australischen Führungskräften – Andy Sinn und David Fernandez – verfasst. Der Bericht im The Guardian wurde für eine große Bank geschrieben und sagt aus, dass “das Unternehmen eine Datenbank mit jungen Nutzern hat – 1,9 Millionen Gymnasiasten, 1,5 Millionen Studenten und 3 Millionen junge Arbeiter”.

Affectiva, ein Bostoner Unternehmen, behauptet, komplexe emotionale und kognitive Daten aus Gesicht, Stimme und physiologischem Zustand mit Hilfe der Emotion Recognition Technology (ECT) zu erkennen und zu entschlüsseln – 12 Milliarden “Emotion Data Points” über Geschlecht, Alter und Ethnizität. Der Gründer hat erklärt, dass Affectiva’s ECT Ihre Herzfrequenz von einer Webcam aus ablesen kann, ohne dass Sie irgendwelche Sensoren tragen, einfach durch die Verwendung der Reflexion Ihres Gesichts, die den Blutfluss hervorhebt – eine Reflexion Ihres Blutdrucks.

Das ultimative Ziel der Dekodierung von Affectiva ist es natürlich von unserer emotionalen Zustände zu profitieren.

Vielleicht würde Facebook (und Google) diese Technologie intelligent zu unserem Vorteil nutzen, aber vielleicht auch nicht. Es ist nicht so schwer es sich vorzustellen, wie man es auch unethisch nutzen könnte. Es ist durchaus möglich maßgeschneiderte Anzeigen und Nachrichten bei uns zu platzieren, angleichend an unserem Gemütszustand zu einem bestimmten Zeitpunkt.

Trotz vieler Proteste in den letzten Jahren sind diese Konzerne aufgrund ihrer enormen kulturellen und sozialen Macht in unserem Leben immer noch nicht besonders transparent oder verantwortlich.

Das zweite Facebook-Patent ist noch interessanter, wenn das…..

Kommentare sind geschlossen.