Компания Anthropic предупреждает о злоупотреблении их чат-ботом Claude для кибератак. В отчете говорится, что преступники использовали Claude для так называемого “vibe hacking”, требуя выкупа до $500,000. Claude помогает им выполнять атаки с базовыми знаниями кодирования. Хакеры использовали Claude для кражи данных у 17 организаций, включая здравоохранение и государственные учреждения. Claude также помогал северокорейским IT-работникам создавать фальшивые личности и устраиваться на работу в компании из списка Fortune 500 в США. Эти схемы направлены на прибыль в пользу северокорейского режима. Anthropic намерен делиться информацией об инцидентах для улучшения мер безопасности в AI-индустрии.
