Gesinn dës AI-Erstallt Fake Leit Iech richteg? - New York Times

0 86



Et ginn elo Geschäfter déi gefälschte Leit verkafen. Op der Websäit Generated.Fotoen, kënnt Dir eng "eenzegaarteg, suergefrei" gefälschte Persoun fir $ 2.99 kafen, oder 1,000 Leit fir $ 1,000. Wann Dir just e puer falsch Leit braucht - fir Personnagen an engem Videospill, oder fir Är Firma Websäit ze maachen méi divers ausgesinn - Dir kënnt hir Fotoen gratis op ThisPersonDoesNotExist.com kréien. Ajustéiert hir Ähnlechkeet wéi néideg; maach se al oder jonk oder d'Ethnizitéit vun Ärer Wiel. Wann Dir Är gefälschte Persoun animéiert wëllt, eng Firma mam Numm Rosebud.AI kann dat maachen a ka se souguer matenee schwätzen.

Dës simuléiert Leit fänken u sech um Internet opzeweisen, als Maske vu richtege Leit mat schaarfen Intent benotzt: Spiounen déi net en attraktivt Gesiicht an engem Effort fir d'Intelligenzgemeinschaft z'infiltréieren; riets Propagandisten déi sech hannert falsche Profiler verstoppen, Foto an alles; online belästegt déi hir Ziler mat engem frëndleche Gesiicht trollen.

Mir hunn en eegent AI System erstallt fir ze verstoen wéi einfach et ass falsch Gesiichter ze generéieren.

Den AI System gesäit all Gesiicht als eng komplex mathematesch Figur, eng Rei vu Wäerter déi verréckelt kënne ginn. Wiel vu verschiddene Wäerter - wéi déi, déi d'Gréisst an d'Form vun den Ae bestëmmen - kann dat ganzt Bild änneren.

Fir aner Qualitéiten huet eise System eng aner Approche benotzt. Amplaz Wäerter ze verréckelen, déi spezifesch Deeler vum Bild bestëmmen, huet de System als éischt zwou Biller generéiert fir Start- an Ennpunkte fir all d'Wäerter z'erstellen, an duerno Biller entstinn.

D'Schafe vun dësen Aarte vu gefälschte Biller gouf eréischt an de leschte Joren dank enger neier Art kënschtlecher Intelligenz genannt e generativ géignerescht Netz. Am Wesentlechen fiddert Dir e Computerprogramm e Koup Fotoen vu richtege Leit. Et studéiert se a probéiert mat eegene Fotoe vu Leit ze kommen, während en aneren Deel vum System probéiert ze entdecken wéi eng vun dëse Fotoen gefälscht sinn.

Hin an hier mécht d'Endprodukt ëmmer méi vun der realer Saach z'ënnerscheeden. D'Portraiten an dëser Geschicht goufen vun The Times mat GAN Software erstallt déi ëffentlech vun der Computergrafikfirma Nvidia verfügbar gemaach gouf.

Wéinst dem Tempo vun der Verbesserung ass et einfach eng net sou wäit Zukunft virzestellen an där mir mat net nëmmen eenzel Portraite vu gefälschte Leit konfrontéiert sinn, mee ganz Sammlunge vun hinnen - op enger Party mat falsche Frënn, mat hire falschen Hënn eraushänken, hir falsch Puppelcher ze halen. Et gëtt ëmmer méi schwéier ze soen, wien wierklech online ass a wien e Bild vun der Imaginatioun vun engem Computer ass.

“Wéi den Tech fir d'éischt am Joer 2014 erschien ass, war et schlecht - et huet ausgesinn d'Sims, "Sot de Camille François, en Desinformatiounsfuerscher deem seng Aarbecht ass d'Manipulatioun vu sozialen Netzwierker ze analyséieren. „Et ass eng Erënnerung un wéi séier d'Technologie sech ka entwéckelen. Detektioun gëtt mat der Zäit nëmme méi schwéier. “

Fortschrëtter am Gesiichtsfakery goufen deelweis méiglech gemaach well d'Technologie sou vill besser ginn ass fir Schlëssel Gesiichtsmerkmale z'identifizéieren. Dir kënnt Äert Gesiicht benotze fir Äre Smartphone opzemaachen, oder sot Ärer Fotosoftware fir Är Dausende vu Biller ze sortéieren an Iech nëmmen déi vun Ärem Kand ze weisen. Gesiichtserkennungsprogrammer gi vu Gesetzesvollzug benotzt fir kriminell Verdächteger z'identifizéieren an ze verhaften (an och duerch e puer Aktivisten fir d'Identitéit vu Polizisten z'entdecken, déi hiren Nummmarken ofdecken an engem Versuch anonym ze bleiwen). Eng Firma genannt Clearview AI huet de Web vu Milliarde vun ëffentleche Fotoen geschrauft - zoufälleg gedeelt vun alldeegleche Benotzer online - fir eng App ze kreéieren déi fäeg ass e Friemen aus nëmmen enger Foto ze erkennen. D'Technologie versprécht Supermuecht: d'Fäegkeet d'Welt z'organiséieren an ze verschaffen op eng Manéier déi virdrun net méiglech war.

Awer Gesiichtserkennungsalgorithmen, wéi aner AI Systemer, sinn net perfekt. Dank der Basisviraussiicht an den Daten, déi benotzt gi fir se ze trainéieren, sinn e puer vun dëse Systemer net sou gutt, zum Beispill, d'Leit vu Faarf ze erkennen. Am Joer 2015 gouf e fréie Bilddetektiounssystem vu Google entwéckelt markéiert zwee Schwaarzer als "Gorillaen", héchstwahrscheinlech well de System vill méi Fotoe vu Gorillae gi war wéi vu Leit mat donkeler Haut.

Ausserdeem si Kameraen - d'Ae vu Gesiichtserkennungssystemer - net esou gutt beim Fänken vu Leit mat donkeler Haut; datt onglécklech Standard datéiert an déi fréi Deeg vun der Filmentwécklung, wa Fotoen kalibréiert goufen fir déi bescht ze weisen Gesiichter vu liichtschwaache Leit. D'Konsequenze kënne schwéier sinn. Am Januar gouf e Schwaarze Mann zu Detroit genannt Robert Williams verhaft fir e Verbriechen deen hien net gemaach huet wéinst engem falschen Gesiichtserkennungsmatch.

Kënschtlech Intelligenz kann eist Liewen erliichteren, awer schlussendlech ass et sou fehlerhaft wéi mir, well mir sinn hannert all deem. D'Mënsche wielen wéi AI Systeme gemaach ginn a wéi eng Donnéeën se ausgesat sinn. Mir wielen d'Stëmmen déi virtuell Assistenten léieren ze héieren, féieren dës Systemer net fir d'Leit ze verstoen mat Akzenter. Mir entwéckelen e Computerprogramm fir dat kriminellt Verhalen vun enger Persoun virzestellen andeems se Daten iwwer vergaangene Rulinge vu mënschleche Riichter fidderen - an am Prozess an deene Riichter seng Viruerteeler ze baken. Mir markéieren d'Biller déi Computeren trainéieren fir ze gesinn; si verbannen dann Brëller mat "Dweebs" oder "Nerds."

Dir kënnt e puer vun de Feeler a Mustere feststellen déi mir fonnt hunn datt eisen AI System widderholl huet wéi et falsch Gesiichter gezaubert huet.


Mënschen ieren, natierlech: Mir iwwersinn oder verglaste laanscht d'Mängel an dëse Systemer, all ze séier ze vertrauen datt Computeren hyper-rational, objektiv, ëmmer richteg sinn. Studien hu gewisen datt, a Situatiounen wou Mënschen a Computeren musse kooperéiere fir eng Entscheedung ze treffen - z'identifizéieren Fangerofdréck or mënschlech Gesiichter - Leit konsequent déi falsch Identifikatioun gemaach, wann e Computer se dozou gedréckt huet. An de fréie Deeg vun Dashboard GPS Systemer, Treiber berühmt den Instruktioune vun den Apparater gefollegt zu enger Schold, Autoe schécken a Séien, vu Fielsen an a Beem.

Ass dës Demut oder Hubris? Maache mir ze wéineg Wäert op d'mënschlech Intelligenz - oder iwwerschätze mir se, unzehuelen datt mir sou schlau sinn datt mir Saache méi schlau kreéiere kënnen?

D'Algorithmen vu Google a Bing sortéieren d'Weltwësse fir eis. Den Newsfeed vu Facebook filtert d'Aktualiséierungen aus eise Sozialkreesser an decidéiert wat wichteg genuch sinn fir eis ze weisen. Mat selbstféierende Featuren an Autoen si mir eis Sécherheet an d'Hänn ze stellen (an d'Aen) vu Software. Mir leeë vill Vertrauen an dës Systemer, awer si kënne sou falsch si wéi mir.

Méi Artikelen iwwer Kënschtlech Intelligenz:

Training Gesiichtererkennung op e puer nei Pelzfrënn: Bieren

Antikörper Gutt. Machine-Made Molekülen Besser?

Dës Algorithme kéinten en Enn bréngen zum Weltdéidlechste Killer

Dësen Artikel erschéngt als éischt (op Englesch) op https://www.nytimes.com/interactive/2020/11/21/science/artificial-intelligence-fake-people-faces.html

Hannerlooss eng Bemierkung