Cum a realizat Anthropic că Mythos era prea periculos pentru mediul exterior

Compania de inteligență artificială a avertizat prin propriii experți că Mythos ar putea să pătrundă în sistemele de bază ale majorității computerelor moderne. Băncile și agențiile guvernamentale se grăbesc să evalueze amenințarea, potrivit bloomberg.com.

👉 Testarea internă a modelului Mythos de către un expert în IA

Într-o seară caldă de februarie în Bali, Nicholas Carlini s-a retras între evenimentele de la o nuntă, a deschis laptopul și a început să caute probleme. Anthropic PBC a făcut disponibil pentru revizuire internă un nou model de inteligență artificială, numit Mythos, iar Carlini — un cercetător bine cunoscut în domeniul IA — intenționa să vadă ce fel de probleme ar putea provoca. Anthropic îi plătește lui Carlini să testeze riguros modelele sale de IA pentru a evalua dacă hackerii ar putea să le folosească pentru spionaj, furt sau sabotaj. Din Bali, unde Carlini și soția sa participau la o nuntă indiană, el a fost uimit de ceea ce modelul putea realiza.