Egy a mesterséges intelligenciával foglalkozó amerikai kutatóintézet, a Center for AI and Digital Policy (CAIDP) azt várja az Egyesült Államok kormányától, hogy indítson vizsgálatot a ChatGPT-t fejlesztő OpenAI vállalatnál a szoftverrel kapcsolatban. A szervezet szerint a chatbot algoritmusainak torzításai, téves válaszai, illetve az hogy ezek lehetőséget teremtenek a plagizálására és segíthetik az online bűncselekmények elkövetését ütköznek az Egyesült Államok fogyasztóvédelmi törvényével.
A CAIDP a fogyasztóvédelem terén is illetékes Federal Trade Comission-hoz (FTC, Szövetségi Kereskedelmi Bizottsághoz) fordult panaszával. A beadvány súlyának növelése érdekében egy széles körben terjesztett nyílt levelet is megfogalmaztak. Ebben Marc Rotenberg, a CAIDP elnöke azt írja, hogy legalább hat hónapra fel kellene függeszteni az olyan AI rendszerek kondicionálását, amelyek a GPT-4-nél, az OpenAI legújabb termékénél többet tudnának. A CNN összefoglalója szerint a nyílt levelet néhány nap alatt több ezren írták alá, köztük olyan ismert üzletemberek, mint Elon Musk, a Tesla vezérigazgatója és Steve Wozniak, az Apple társalapítója.
Szigorú szabályokra lenne szükség
A CAIDP beadványa a nyílt levélnél keményebben fogalma: az FTC-nek meg kell tiltania, hogy az OpenAI nyilvánosságra hozza a GPT további változatait és sürgősen ki kell alakítani a gyorsan fejlődő AI-szektor új szabályozását. A kutatóintézet szerint az FTC teljes fogyasztóvédelmi apparátusát be kell vetni a mesterséges intelligenciák fejlesztésének ráncba szedésére. A CAIDP szerint olyan helyzet alakult, ki ezen a téren, ami a 19. század végi amerikai vad nyugatra emlékeztet. Elszabadult kísérletezgetések folynak az AI területén, a fogyasztók olyasmiért fizetnek, aminek előre nem látható, nem szándékos káros következményei lehetnek.
Úgy tűnik, hogy a szervezet a megfelelő ajtón kopogtat
Lina Khan, az FTC elnöke korábban figyelmeztetett azokra a veszélyekre, amelyek abból fakadhatnak, hogy a mesterséges intelligenciát átláthatatlan módon használhatják kereskedelmi célokra. Emellett úgy látja, hogy a nagy technológiai vállalatok piaci monopóliumok kialakítására használhatják fel a birtokukban lévő fejlettebb AI szoftvereket.
„Úgy véljük, hogy az FTC-nek az OpenAI körménre kell néznie. Meg kell vizsgálnia a cég legújabb szoftverét, a GPT-4-et” – mondta Rotenberg, aki a CAIDP vezetésével együtt régóta kiáll a fogyasztók védelme mellett a modern technológia veszélyeivel szemben.
A kutatóintézet beadványa részletesen idézi azokat a kockázatokat, amelyeket a szakértők az alkotó, azaz generatív mesterséges intelligenciával szemben megfogalmaznak. Ezekről rengeteget írtak azt követően, hogy az OpenAI 2022 végén előállt a ChatGPT-vel, az első igazán széles körű használatra, így a laikusoknak is szánt chatbottal ezen a téren.
Például a program segítségével átlagos, az informatikához csak a felhasználó szintjén értő emberek is írhatnak költeményeket. Miután az AI az interneten elérhető forrásokat használja fel ehhez, jó esélye van annak, hogy az ilyen vers plágium lesz. A felhasználó szoftvereket is írhat, akár rosszindulatúakat is. Emellett pillanatokon belül meglepően kifinomult választ kaphat bármely kérdésére. A válasz azonban pontatlan vagy torz lehet úgy, hogy azzal a laikus kérdező nincs tisztában.
Vírus módjára szóródhat szét a világban a „félig kész” AI
A kockázatot növeli, hogy a Microsoft és a Google gőzerővel dolgozik a ChatGPT-hez hasonló mesterséges intelligencia beépítésén hétköznapi internetes keresőjébe, amely sok száz millió példányban fut a világ számítógépein, laptopjain, táblagépein és okos telefonjain. Emellett kisebb cégek is fejlesztenek hasonló programokat piaci értékesítés céljával.
A CAIDP úgy véli, hogy a AI-k diszkréten hallucinációnak nevezett elemi tévedései is olyan ügyek, amelyek alapján bíróság elé lehet idézni fejlesztőiket. Olyasmire gondolnak, mint hogy például egyikük magabiztosan kijelentette: 2023. február 12-e előbb történt, mint 2022. december 16-a.
A szervezet azt várja az FTC-től, hogy ezeket „hallucinációkat”, „információgyártmányokat”, ezt a „félreinformálást” nevezze „félrevezetésnek”. Ezt követően ugyanis a hatóság a fogyasztók félrevezetésének tilalma alapján felléphet a fejlesztők ellen.
Nem elég a figyelmeztetés a chatbotok veszélyeire
A CAIDP arra hivatkozik, hogy az OpenAI saját nyilatkozataiban maga is felhívja a figyelmet terméke korlátaira. Például a GPT-4 megjelenésével párhuzamosan arra figyelmeztetett, hogy a chatbot olyan tartalmakat állíthat elő, amelyek egyes források szerint helytelennek vagy akár nonszensznek minősülnek. A fejlesztő azt is elismeri, hogy az olyan termékek, mint a GPT a kisebbségeket és a sérülékeny embercsoportokat sértő válaszokat adhat a feltett kérdésekre.
A kutatóintézet szerint az OpenAI megsértette az FTC iránymutatásait, ugyanis a terméke használatának kockázatával kapcsolatos felelősséget igyekszik teljesen a felhasználókra hárítani. A CAIDP szerint ez nem fair és megint csak félrevezető viselkedés.
Az OpenAI felszólítja a termékét használó szervezeteket, köztük a bankokat, egészségügyi intézményeket, hogy tájékoztassák ügyfeleiket a mesterséges intelligencia korlátairól. A CAIDP szerint azonban ez nem mentheti fel a céget a termékével kapcsolatos felelősség alól.
Az FTC néhány héttel ezelőtt hozott állásfoglalást arról, hogy a figyelmeztetés nem riasztja el a termékek rossz szándékú felhasználóit attól, hogy káros célra használjanak valamit. Ennek elkerüléséhez a termékbe beépített védekező eszközökre van szükség. Nem olyanokra, amiket ki-be lehet kapcsolni, hanem olyanokra, amelyeket nem lehet megkerülni, módosítani vagy eltávolítani.
