Nyní opravená bezpečnostní zranitelnost v aplikaci ChatGPT pro macOS od OpenAI mohla útočníkům umožnit vložit dlouhodobý perzistentní spyware do paměti nástroje umělé inteligence (AI). Tato technika, nazvaná SpAIware, mohla být zneužita k usnadnění „nepřetržitého získávání dat, které uživatel zadal nebo které ChatGPT obdržel, včetně jakýchkoli budoucích chatovacích relací,“ uvedl bezpečnostní výzkumník Johann Rehberger.
Problém v jádru zneužívá funkci nazvanou paměť, kterou OpenAI zavedla letos v únoru, než ji na začátku měsíce zpřístupnila uživatelům ChatGPT Free, Plus, Team a Enterprise. Tato funkce v podstatě umožňuje ChatGPT pamatovat si určité věci napříč chaty, takže uživatelé nemusí opakovaně zadávat stejné informace. Uživatelé mají také možnost programu nařídit, aby něco zapomněl.
„Paměti ChatGPT se vyvíjejí s vašimi interakcemi a nejsou spojeny s konkrétními konverzacemi,“ říká OpenAI. „Smazání chatu nevymaže jeho paměti; musíte smazat samotnou paměť.“
Tato technika útoku také vychází z předchozích zjištění, která zahrnují použití nepřímé injekce příkazů k manipulaci s pamětí tak, aby si pamatovala falešné informace nebo dokonce škodlivé instrukce, čímž dosahuje formy trvalosti, která přetrvává mezi konverzacemi.
„Protože jsou škodlivé instrukce uloženy v paměti ChatGPT, všechny nové konverzace budou obsahovat instrukce útočníka a neustále odesílat všechny zprávy z chatu a odpovědi útočníkovi,“ řekl Rehberger. „Takže zranitelnost získávání dat se stala mnohem nebezpečnější, protože se nyní rozšiřuje napříč konverzacemi.“
V hypotetickém scénáři útoku by mohl být uživatel oklamán, aby navštívil škodlivou stránku nebo stáhl dokument s pastí, který je následně analyzován pomocí ChatGPT k aktualizaci paměti. Webová stránka nebo dokument by mohly obsahovat instrukce k tajnému odesílání všech budoucích konverzací na server ovládaný protivníkem, který pak může být útočníkem na druhé straně získán mimo jednu chatovací relaci.
Zdroj: thehackernews.com
