OpenAI, operator ChatGPT, musi stawić czoła dochodzeniu prowadzonemu przez amerykański organ ds. konkurencji, FTC (Federal Trade Commission). Urząd przesłał firmie 20 stron pytań, na które trzeba szczegółowo odpowiedzieć. Najważniejszy Hadid: Co OpenAI robi przeciwko oczernianiu prawdziwych ludzi za pomocą swoich modeli językowych, takich jak ChatGPT?

reklama

Na przykład FTC chce wiedzieć, jakie skargi otrzymało OpenAI i jak je rozpatruje, jaką analizę bezpieczeństwa i ryzyka przeprowadza firma przed wydaniem modelu językowego, w jaki sposób wykrywa dezinformację i jakie wytyczne stosuje, aby określić, jakie to okoliczności. W ogóle tak jest i możliwe jest wyprowadzanie danych osobowych za pośrednictwem sztucznej inteligencji. Czyniąc to, OpenAI musi również ujawnić, czy dyskryminuje osoby interesu publicznego i inne osoby podczas przetwarzania i udostępniania danych osobowych.

Wiele pytań dotyczy bardziej fundamentalnych kwestii: kim są właściciele, dyrektorzy, odpowiedzialni pracownicy i partnerzy biznesowi, w jaki sposób OpenAI mierzy wydajność swoich usług i jak je reklamuje oraz co wie o użytkownikach (mis) zrozumienie funkcjonalności, dokładności, niezawodności i gromadzenia danych w swoich modelach językowych? Oto możliwy kierunek ataku ze strony FTC: jeśli OpenAI wie o nieporozumieniu, ale firma nic z tym nie robi, a nawet rozpowszechnia błędne przekonania opinii publicznej za pomocą własnych danych, może to być niezgodne z prawem federalnym Stanów Zjednoczonych. Zabrania to nieuczciwej konkurencji, wprowadzającej w błąd reklamy lub fałszywego przedstawiania cech produktu.

Skąd OpenAI pobiera dane treningowe?

FTC chce również wiedzieć, w jaki sposób OpenAI trenuje, ulepsza, testuje, monitoruje i ponownie szkoli swoje modele językowe pod kątem podstawowych problemów, w jaki sposób uwzględnia wkład człowieka we wszystkich tych procesach i jak zapobiega wprowadzaniu informacji umożliwiających identyfikację osób do szkolenia. Ostatnie pytanie dotyczy ochrony danych. Trzy miesiące temu inspektorzy ochrony danych w Niemczech wszczęli postępowanie przeciwko OpenAI.

Ponadto FTC wymaga obszernej listy źródeł wszystkich danych szkoleniowych, w tym adresów stron internetowych, oraz ich odpowiedniego udziału w całkowitym zasobie danych. Dane wykorzystywane niezgodnie z prawem mogą wskazywać np. na nieuczciwą konkurencję.

Niektóre inne pytania wskazują, że FTC jest szczególnie zainteresowany marcowym incydentem, w którym ChatGPT ujawnił fragmenty rozmów, które inni użytkownicy prowadzili z ChatGPT. Ponadto system informatyczny OpenAI nieprawidłowo ujawnił nazwiska, adresy rozliczeniowe, adresy e-mail i częściowe informacje o kartach kredytowych niektórych innych subskrybentów. Następnie OpenAI zaprzestało świadczenia usług i Przyznaj się do błędów.

reklama

Ponadto OpenAI powinno dostarczać informacji o interfejsach programistycznych i wtyczkach, związanych z nimi zagrożeniach i sposobach ich zwalczania. Na koniec organ żąda listy wszystkich prób obejścia przez użytkowników filtrów i ograniczeń modeli językowych za pomocą poleceń czatu (natychmiastowe wstrzyknięcie) lub uruchomienia funkcji niezamierzonych przez OpenAI.

Chodzenie po legalnej linie

Indeks pytań odnosi się przede wszystkim do okresu od 1 czerwca 2020 r., ale częściowo do 2017 r. OpenAI zostało założone w grudniu 2015 r. Pod względem prawnym i politycznym FKH musi zadbać o to, by prowadzone przez nią dochodzenia nie wykraczały poza jej jurysdykcję. Jej podstawowym zadaniem jest zwalczanie nieuczciwej konkurencji, oszustw, nielegalnych monopoli i innych postaw antykonkurencyjnych; Grzywny wchodzą w życie, gdy konsumenci poniosą szkodę.

Agencja jest również odpowiedzialna za stosowanie różnych przepisów prawa materialnego. Ustawa o uczciwości, powiadamianiu i uczciwości na internetowych platformach sprzedaży detalicznej dla konsumentów została niedawno dodana. Sprzedawcy w amerykańskich sklepach internetowych są zobowiązani do ujawniania swojej tożsamości i komunikowania się z klientami. Wreszcie FTC gromadzi wszelkiego rodzaju informacje o rynkach i uczestnikach rynku, generuje z nich raporty i przedstawia propozycje zmian legislacyjnych. Z drugiej strony sama kara za zniesławienie jest zwykle prerogatywą prawa poszczególnych państw.

(S)