Chatbot cinesi violano i limiti e rivelano come uccidere e creare armi biologiche: aperta un’inchiesta
I limiti imposti dagli sviluppatori sono stati violati. I chatbot si sono spinti laddove non avrebbero dovuto. L’azienda cinese Moonshot, sviluppatrice di sistemi di intelligenza artificiale, ha avviato un’indagine interna dopo che alcuni ricercatori sono riusciti a convincere due dei suoi popolari modelli Kimi a rivelare loro come fabbricare armi biologiche ed eseguire omicidi. Mindgard, società che testa la sicurezza dei sistemi di intelligenza artificiale, ha dichiarato all