Meredith Whittaker, a Signal elnöke, figyelmeztetett az ügynöki mesterséges intelligencia (AI) potenciális kockázataira, különös tekintettel a felhasználók adatvédelmére és biztonságára. Az SXSW konferencián, Austinban, Texasban, Whittaker kiemelte, hogy az AI ügynökök használata olyan, mintha „az agyadat egy üvegbe tennéd”, és óva intett ettől az új számítástechnikai paradigmától, amelyben az AI a felhasználók nevében végez feladatokat.
Whittaker részletezte, hogy az AI ügynökök hogyan próbálják megkönnyíteni az életünket azáltal, hogy különböző online feladatokat vállalnak át. Például, az AI ügynökök képesek lehetnek koncertjegyeket keresni, foglalni, az eseményt beütemezni a naptárba, és értesíteni a barátokat a foglalásról. Azonban, ahogy Whittaker kifejtette, ehhez az AI ügynököknek teljes hozzáférésre van szükségük a felhasználók rendszeréhez, beleértve a böngészőt, a bankkártya adatokat, a naptárat és az üzenetküldő alkalmazásokat.
„Ez a hozzáférés gyakorlatilag root jogosultságot jelent, amely lehetővé teszi az AI ügynökök számára, hogy hozzáférjenek minden adatbázishoz – valószínűleg titkosítás nélkül, mivel jelenleg nincs modell, amely ezt titkosítva tudná megtenni,” figyelmeztetett Whittaker. Továbbá kiemelte, hogy egy elég erős AI modell esetén ez a folyamat valószínűleg nem a készüléken, hanem egy felhőszolgáltatáson történik, ami további biztonsági és adatvédelmi kockázatokat jelent.
Whittaker véleménye szerint, ha egy olyan üzenetküldő alkalmazás, mint a Signal, integrálódna az AI ügynökökkel, az veszélyeztetné az üzenetek titkosságát. Az ügynököknek ugyanis hozzáférésre lenne szükségük az alkalmazáshoz, hogy üzeneteket küldjenek a barátoknak, és adatokat gyűjtsenek az üzenetek összefoglalásához.
Whittaker megjegyzései arra a panelbeszélgetésre épültek, amelyben korábban arról beszélt, hogy az AI iparág hogyan épül fel a tömeges adatgyűjtésen alapuló megfigyelési modellre. Kiemelte, hogy a „nagyobb jobb AI paradigma” – vagyis, hogy minél több adat, annál jobb – potenciális következményekkel jár, amelyek nem feltétlenül pozitívak. Az ügynöki AI-val tovább aláássuk a magánélet védelmét és a biztonságot egy „varázslatos dzsinnibot” nevében, amely gondoskodik az élet kényelmi szükségleteiről, zárta Whittaker.
