Panie Gigerenzer, w swojej nowej książce mówi Pan o sztucznej inteligencji, która może – mniej lub bardziej wiarygodnie – przewidzieć, kiedy nastąpi kolejny wybuch grypy i gdzie nastąpi kolejne morderstwo. Co sądzisz o tym, że pozwalamy algorytmom przepowiadać nam przyszłość?

Gerd Geigrenzer: Firmy oferują teraz algorytmy do prawie wszystkiego. Ważne jest, aby zrozumieć, że złożone algorytmy w postaci sieci neuronowych działają w celu rozwiązania konkretnych problemów, a nie innych problemów. Na przykład komputer może pokonać człowieka w szachach, ponieważ dziś i jutro obowiązują tu te same zasady. Ale jeśli chodzi o przewidywanie grypy lub COVID-19lub ludzkie zachowanie, te złożone algorytmy nie działają dobrze. Zwykle wiele bardzo prostych i zaawansowanych algorytmów jest lepszych i szybszych.

Czy możesz to wyjaśnić bardziej szczegółowo? W jakich obszarach możemy polegać na algorytmach, a gdzie nie?

Geigrenzer: Nazywam to „zasadą stabilnego świata”. Jeśli masz stabilny świat, taki jak szachy, zap czy wiele innych gier, algorytmy będą znacznie lepsze od nas. Jednak w obliczu niepewności złożone algorytmy nie sprawdzą się dobrze – na przykład w rozpoznawaniu twarzy. Po ataku na Breitscheidplatz w Berlinie minister spraw wewnętrznych przeprowadził badanie, w którym na dworcu kolejowym Südkreuz zainstalowano kamery masowego nadzoru z rozpoznawaniem twarzy. W końcu ogłosił trafienie w komunikacie prasowym: wskaźnik infekcji wyniósł 80 procent, więc 80 procent wszystkich podejrzanych zostało prawidłowo zidentyfikowanych, a tylko niewielki procent został zignorowany. Wskaźnik fałszywych alarmów wynosił 1 na 1000: na 1000 zwykłych obywateli tylko jeden był podejrzany o fałszerstwo. Na początku wydawało się, że to historia sukcesu.

Jeśli system zostanie wprowadzony na wszystkich stacjach kolejowych, co będzie dalej? Około dwanaście milionów ludzi codziennie odwiedza niemieckie dworce kolejowe. Przy tym wskaźniku fałszywych alarmów oznacza to, że każdego dnia około 12 000 osób jest błędnie diagnozowanych. Są aresztowani, a ich tożsamość weryfikowana. Zajęłoby to wielu gliniarzy policja Nie mogą już wykonywać swoich rzeczywistych zadań.

Rozpoznawanie twarzy nie działa jako monitorowanie grupowe, ale działa ze stabilnymi problemami: na przykład podczas odblokowywania smartfona twarzą. Tutaj ta sama twarz porównywana jest w kółko do obrazu, a nie milionów twarzy ze stu czy tysiącem podejrzanych. Lub z identyfikacją jednego przestępcy. Na przykład, gdy ktoś siedzi w metrze, wiesz, że popełnił czyn i chcesz zidentyfikować tę osobę.

Czy to jeden z powodów, dla których? Pandemia korony Stawiałeś czoła tak dużym wyzwaniom? Bo czy w tym przypadku również nie była to kwestia stabilnego systemu, w którym przyszłość można wyprowadzić z przeszłości?

Geigrenzer: Tak, próby przewidzenia przebiegu infekcji w zasadzie nie powiodły się. Technologia może robić pewne rzeczy – w innych obszarach musimy nadal kierować się zdrowym rozsądkiem i nauką.

Jako badacza ryzyka interesuje Cię również to, że ludzie często boją się niewłaściwych rzeczy – na przykład latania niż prowadzenia samochodu, mimo że ryzyko śmiertelnego wypadku podczas jazdy jest znacznie wyższe. W tym kontekście, co myślisz o pandemii korony?

Geigrenzer: Widzieliśmy tutaj coś podobnego: na przykład szpitale poinformowały, że w ciągu ostatniego roku liczba pacjentów zgłaszających się do szpitala z poważnymi problemami z sercem lub udarami mózgu spadła o 20 do 30 procent. Oznacza to, że niektórzy ludzie, obawiając się zarażenia Covid-19, uniknęli szpitala i dlatego są bardziej zagrożeni – zbyt późno uzyskali pomoc medyczną z powodu poważnej choroby. Strach koncentruje się na jednym niebezpieczeństwie – zarażeniu Covid-19 – a ryzyko, które podejmuje się, aby tego uniknąć, jest ignorowane.

Jak możesz wyjaśnić psychologicznie, że nie możemy obiektywnie zważyć tutaj jednego ryzyka i drugiego?

Geigrenzer: Brakuje tego, co nazywam alfabetyzacją w zakresie ryzyka. Kiedy na przykład stało się jasne, że byli ludzie, którzy byli dwukrotnie zaszczepieni i nadal mieli Covid-19, niektórzy doszli do wniosku: Och, pełne szczepienie nie pomaga! Ale żadna szczepionka nie pomaga w 100 procentach – nic nie jest w 100 procentach bezpieczne w naszym życiu. Wiele osób uważa, że ​​mogą mieć stuprocentową pewność – to iluzja.

Jeśli szczepionka ma być skuteczna w 90 procentach, nie będzie działać przez dziesięć procent czasu. Zrozumienie tego jest pierwszym krokiem. Drugi to ocena wielu ryzyk, a nie skupianie się tylko na jednym ryzyku, czyli myślenie statystyczne. do rozważenia: Jeśli czekam na zaszczepienie, czy ryzyko złapania w międzyczasie infekcji, a następnie walki o życie na OIT jest większe niż ryzyko zaszczepienia?

Twierdzą, że nie powinniśmy całkowicie oddawać kontroli nad naszym życiem komputerom i sztucznej inteligencji. W jakich obszarach świadomie porzucasz sztuczną inteligencję tam, gdzie inni ślepo jej ufają?

Geigrenzer: Oczywiście do pracy naukowej wykorzystuję Internet, ale staram się zrezygnować z korzystania z mediów społecznościowych i korzystam z nich tylko np. w kontaktach z rodziną, której większość mieszka w USA.

Z jakiego powodu?

Geigrenzer: Problemem nie jest technologia, ale stojące za nią modele biznesowe. Oznacza to jedno: płać swoimi danymi! Wchodzimy we lunatykowanie w społeczeństwo zegarkowe. Politycy i obywatele spotykają się, ponieważ pozwalamy tym modelom biznesowym prowadzić nas do inwigilacji w sposób, jakiego nigdy wcześniej nie robiono – zarówno komercyjnego, jak i rządowego. Ale nie musi tak być, ponieważ istnieje alternatywa: płać swoimi pieniędzmi!

Robimy to też, kiedy idziemy do kawiarni. Na przykład, jeśli Portal społecznościowy Facebook Całkowity wolumen sprzedaży, który generuje, spłaci naszymi danymi osobowymi, a każdy użytkownik będzie musiał płacić tylko około 2 euro miesięcznie. Łatwo to policzyć. Jeśli wszyscy zapłacą 2 euro, pan Zuckerberg może stać się równie bogaty bez osoby osobistej Reklama Tysiące psychologów i inżynierów badają, jak wykorzystać ludzkie słabości, aby utrzymać ich na jednej platformie na dłużej

Wspomniałeś w swojej książce, że bardzo niewiele osób jest skłonnych zapłacić te dwa euro. Jak wytłumaczysz, że od dawna wiemy, w jaki sposób firmy uzyskują dostęp do naszych danych i że nadal nie chronimy lepiej naszej prywatności?

Geigrenzer: Zgadza się, odkryliśmy w ankiecie, że 75 procent Niemców nie chce płacić ani centa za swoją prywatność. Jednocześnie największą obawą osób w Niemczech przed cyfryzacją w ciągu ostatnich kilku lat było to, że ich dane osobowe zostaną ujawnione osobom trzecim i nie będą wiedzieć, co się z nimi dzieje. Nazywa się to paradoksem prywatności.

Czy możesz wyjaśnić tę sprzeczność bardziej szczegółowo?

Geigrenzer: Posłużę się obrazem darmowej kawiarni: wyobraź sobie, że w kawiarni w mieście jest kawa, za którą nie musisz płacić. Wkrótce po tym, jak wszystkie inne kawiarnie zostały zniszczone, jest to obecnie jedyne miejsce, w którym możesz spotkać się ze znajomymi. Spędzasz tam dobre godziny, ale stoły mają wbudowane systemy monitoringu i wiszące nad nimi kamery wideo, które rejestrują wszystko, co mówisz i robisz. A poza tym sale są pełne aktorów, którzy będą serwować Ci spersonalizowane reklamy. Ci przedstawiciele to klienci kawiarni, a nie ty. Twoja uwaga jest dobra. Tak działa Facebook.

Możesz to zakończyć, jeśli znowu masz kawiarnię, w której płacisz za siebie. Więc znów będziesz klientem. Jeśli nie płacisz, jesteś towarem.

Bardzo konkretna wskazówka dla użytkowników: Płatne usługi chroniące Twoją prywatność! Co jeszcze możemy zrobić, aby zachować kontrolę nad swoim życiem i nie oddać go maszynom?

Geigrenzer: Tak wiele możemy zrobić. Jednak w tym przypadku zapotrzebowanie nie dotyczy tylko użytkownika, w zasadzie potrzebujemy również kraju, który bierze odpowiedzialność i jest po prostu nieakceptowany przez lobbystów z branży technologicznej. Kiedy byłem członkiem rady doradczej ds. konsumenckich w Federalnym Ministerstwie Sprawiedliwości i ochrona konsumenta Zaproponowaliśmy bardzo konkretne środki.

Na przykład, kiedy wchodzisz na stronę internetową, jesteś proszony o przeczytanie i zaakceptowanie warunków. Czy próbowałeś już to przeczytać? Została napisana tak długo i niezrozumiale, że łatwo się jej poddać. Więc musimy wyrazić naszą nieświadomą zgodę. Zgoda jest prawnie wiążąca! Badania pokazują, że gdyby wszyscy się zorientowali i przeczytali te długie teksty, zajęłoby to średnio 30 dni roboczych w roku – co nie jest warte.

Twoja teza prawdopodobnie brzmiałaby: Gdyby firmy chciały, mogłyby tworzyć te teksty w sposób, który byłby krótszy i bardziej zrozumiały.

Geigrenzer: dokładnie. Nasza sugestia w Zgromadzeniu Ekspertów była taka, że ​​wszystkie warunki powinny zawierać maksymalnie 500 słów i być zrozumiałe. Aby użytkownicy mieli możliwość przeczytania i zrozumienia tego. W ten sposób ludzie mogą zostać zwolnieni ze statusu inwestycji na 30 dni roboczych lub tylko wyrazić nieświadomą zgodę. Ale to się jeszcze nie stało. Jest kilka firm, które dobrowolnie zastosowały się do tej sugestii.

W tym przypadku jako użytkownik liczę na zmianę ogólnych warunków. Na jakim etapie mogę zacząć, aby zachować większą kontrolę?

Geigrenzer: Oczywiście można też coś zrobić: na przykład głosować na polityków, którzy opowiadają się w takich sprawach. Musimy wreszcie zacząć uczyć umiejętności cyfrowych w szkołach. Badania pokazują, że 97 procent wszystkich cyfrowych tubylców nie wie, jakich technologii można użyć, aby dowiedzieć się, czy witryna jest godna zaufania. Każdy może nauczyć się tych technik, zwanych „czytaniem z boku”.

Załóżmy, że witryna chce, abyś coś przekazał. Skąd wiesz, kto i jakie interesy za tym stoją? Większość cyfrowych tubylców próbuje to rozgryźć, czytając stronę internetową lub sprawdzając, czy wygląda fajnie. To stara technika. Boczne czytanie oznacza: opuszczenie strony i sprawdzenie, kto za nią stoi na innych stronach. Potrzebujemy nie tylko inteligentnej technologii, ale także inteligentnych ludzi, którzy potrafią z niej korzystać.