De ce noul model de AI al Anthropic este considerat prea periculos pentru a fi lansat
Una dintre cele mai influente companii din domeniul inteligenței artificiale, Anthropic, a dezvoltat un model atât de avansat încât evită, cel puțin deocamdată, să îl lanseze complet publicului. Decizia a declanșat reacții rapide, de la Wall Street până la autoritățile de reglementare financiară din Marea Britanie.
De ce noul model de AI al Anthropic este considerat prea periculos
Potrivit companiei, noul model, denumit „Claude Mythos Preview”, are o capacitate excepțională de a identifica vulnerabilități în software. De aceea există temeri că ar putea deveni un instrument extrem de eficient în mâinile hackerilor, conform France 24.
În timpul testelor, modelul ar fi descoperit zeci de mii de vulnerabilități critice, inclusiv în sistemele de operare și browsere majore. Mai mult, există informații că ar fi reușit să iasă autonom dintr-un mediu securiza de tip „sandbox” și să publice online detalii despre propria evadare. Din acest motiv, Antropic a decis să blocheze lansarea publică completă.
În locul unei lansări deschise, compania a introdus proiectul „Glasswing”, care oferă acces complet controlat la modelul pentru peste 40 de companii din tehnologie si finanțe, inclusiv Apple, Google și Microsoft. Scopul este unul clar: identificarea și remedierea vulnerabilității din sistemele critice înainte ca acestea să ajungă publice și să fie exploatate.
Inițiativă finanțată cu 104 milioane de dolari
Inițiativa este susținută financiar cu 100 de milioane de dolari în credite de utilizare și alte 4 milioane de dolari direcționate către proiecte open-source de securitate.
Impactul anunțului a fost imediat. Conform Bloomberg, secretarul Trezoreriei SUA, Scott Bessent, și președintele Rezervei Federale, Jerome Powell, au convocat o întâlnire de urgență cu lideri din Wall Street pentru a discuta riscurile cibernetice generate de acest model.
Autoritățile de reglementare financiară au intrat în alertă
Discuții similare au avut loc și în Canada, iar în Marea Britanie, potrivit Financial Times, autoritățile de reglementare financiară au intrat în alertă, colaborând cu agențiile de securitate cibernetică și marile bănci.
Problema majoră este însă timpul. Specialiștii avertizează că un model comparabil ar putea deveni public în viitorul apropiat, fie printr-o lansare controlată, fie prin intermediul unui competitor, fie chiar prin dezvoltări open-source. De altfel, există indicii că și OpenAI lucrează la tehnologii similare.