Разговор со вештачка интелигенција, кој една жена тврдела дека го користела како личен дневник, завршил со полициска интервенција откако системот за безбедност ја означил содржината како потенцијално опасна.
Станува збор за Карли Мишел Хелер од Бонита Спрингс, Флорида. Според полицискиот извештај што го пренесуваат американските медиуми, таа на 26 септември во разговор со четботот Claude напишала порака во која наводно се заканила со напад врз канцеларијата на шерифот на округот Ли.
Пораката била означена од безбедносниот систем на компанијата Anthropic, по што следела човечка проверка. Откако тимот за проценка ја разгледал содржината, случајот бил пријавен кај надлежните органи.
Полицијата ја привела Хелер во нејзиниот дом без инцидент. Таа се соочува со обвинение за писмена закана со насилство, но самото обвинение не значи дека нејзината вина е веќе докажана.
Случајот привлече внимание поради насловите дека „вештачката интелигенција ја пријавила“, но според достапните информации, во процесот биле вклучени и луѓе. Системот само ја идентификувал пораката како можна закана, а конечната проценка ја направиле лица задолжени за проверка.
Хелер, според нејзиното објаснување пред истражителите, рекла дека четботот го користела како дневник и место каде што ги запишувала своите мисли.
Настанот повторно го отвори прашањето за границите на приватноста при користењето на четботови, особено кога корисниците ги доживуваат како простор за лични разговори и доверливи белешки.
Од Anthropic наведуваат дека податоците за корисниците може да бидат споделени со властите кога постои валидна правна постапка. Компанијата има и исклучок за итни ситуации, односно случаи кога постои проценка дека има непосредна опасност од физичка повреда или смрт и дека брзото споделување информации може да спречи штета.
Тоа не значи дека секоја вознемирувачка или непријатна порака автоматски се пријавува. Сепак, случајот покажува дека разговорите со четботови не треба да се сметаат за целосно приватен простор, особено кога содржината укажува на можна реална опасност.
