OpenAI e Anthropic verso la Borsa: I Gemelli Diversi dell’AI alla Prova dei Mercati

Il New York Times riporta che OpenAI starebbe seriamente considerando di rimandare la propria IPO al 2027. L’effetto SpaceX — debutto record, poi correzione brusca — ha raffreddato gli entusiasmi. Sam Altman vuole il trilione di dollari di valutazione o niente. Ma il mercato, per ora, non sembra disposto a concederglielo.

⚠️ Conflitto di interesse dichiarato L’autore detiene posizioni nei seguenti titoli citati nell’articolo: NVDA, COIN.

L’azienda di IA riesce a conservare i principi etici fondativi mentre si lancia sul mercato con il suo strumento più potente e inquietante? Un venerdì di fine febbraio, Dario Amodei sedeva a riflettere sul destino della sua azienda, nata cinque anni prima. Era la fine di una settimana surreale per Anthropic, persino secondo gli standard di mesi straordinari per la start-up di intelligenza artificiale che stava superando i rivali nello sviluppo di sistemi all’avanguardia. Era scoppiato uno scontro pubblico aspro con il Dipartimento della Difesa americano su un principio centrale alla fondazione dell’azienda: il dispiegamento sicuro delle potenti tecnologie di IA. Il DoD aveva chiesto ad Anthropic di rendere disponibile il suo sistema di IA Claude per «tutti gli scopi leciti». Anthropic aveva richiesto due eccezioni: la sorveglianza di massa degli americani e la guerra autonoma letale. Da lì, le trattative erano precipitate nel fango. Fino a quel momento della giornata, il presidente Donald Trump aveva pubblicato un post in cui invitava ogni agenzia federale del suo governo a cessare immediatamente di collaborare con Anthropic, definendo Amodei e i suoi colleghi «woke… matti di sinistra». Il segretario alla Difesa Pete Hegseth aveva fatto seguito con un post in cui annunciava che Anthropic sarebbe stata designata un «rischio per la catena di fornitura» della sicurezza nazionale, una prima volta assoluta per un’azienda americana. In teoria, ciò significava che nessuna organizzazione che facesse affari con l’esercito americano avrebbe più potuto lavorare con Anthropic. Per coronare il tutto, il nemico giurato di Amodei e suo ex datore di lavoro, Sam Altman, era piombato ad annunciare un accordo tra la sua azienda, OpenAI, e il Pentagono, offrendo i propri sistemi di IA nelle operazioni classificate al posto di quelli di Anthropic. In un impeto di rabbia, Amodei aveva scritto di getto i suoi pensieri non filtrati in un lungo messaggio ai suoi 3.000 dipendenti tramite Slack. Aveva accusato OpenAI, Altman e l’amministrazione Trump di essere, rispettivamente, «mendaci», disonesti e «sospetti». «Molti dei messaggi di OpenAI e del DoD mentono spudoratamente su queste questioni o cercano di confonderle», aveva scritto Amodei. «Il vero motivo per cui il DoD e l’amministrazione Trump non ci vogliono bene è che non abbiamo donato a Trump… non abbiamo tributato a Trump lodi da dittatore (come ha fatto Sam), abbiamo sostenuto la regolamentazione dell’IA contro il loro programma… e abbiamo davvero mantenuto le nostre linee rosse con integrità invece di colludere con loro per produrre un “teatro della sicurezza”.» Era il punto più basso di anni turbolenti. Da quando Anthropic aveva lanciato il suo primo prodotto, il rivale di ChatGPT chiamato Claude, nel 2023, si era costruita una narrazione attorno all’azienda. Anthropic si era presentata come la coscienza dell’industria dell’IA. La sua promessa fondante era costruire un’IA sicura e responsabile, che non danneggiasse i propri utenti né la società nel suo complesso. Fondata come public benefit corporation, l’azienda a scopo di lucro è legalmente tenuta a bilanciare i propri obiettivi finanziari con un impatto sociale positivo. I suoi cofondatori, un gruppo di ricercatori e ingegneri con grandi ideali, avevano lasciato i loro posti di lavoro in OpenAI per andare a lavorare con Dario Amodei e sua sorella Daniela. Ma entro questo febbraio, una tensione al cuore dell’azienda — tra gli impulsi contrastanti del pomposo statuto di missione di Anthropic e gli incentivi alla crescita del settore ferocemente competitivo che stava pioneering — era diventata evidente. Lo scontro con l’amministrazione Trump prometteva di essere un banco di prova: un’azienda di IA poteva continuare a comportarsi eticamente, espandendo allo stesso tempo la propria base di utenti verso governi, imprese e privati, e spingendo i confini di ciò che la tecnologia saprà fare in futuro? Negli ultimi mesi, tali tensioni si sono approfondite. Anthropic ha fatto causa al Pentagono a marzo, sostenendo che la sua attività avrebbe subito un danno enorme a causa della designazione di rischio nella catena di fornitura, e che era presa di mira per aver criticato l’amministrazione. Il caso sta ancora facendo il suo corso nei tribunali federali. Nel frattempo, la sua crescita è stata straordinaria. La settimana scorsa, Anthropic ha superato OpenAI diventando la start-up di IA più preziosa al mondo quando ha annunciato un nuovo round di finanziamento da 65 miliardi di dollari, portando la sua valutazione a 900 miliardi di dollari. Giorni dopo, ha depositato le pratiche per un’offerta pubblica iniziale destinata a valere più di mille miliardi di dollari, precedendo il rivale OpenAI, che si sta ancora preparando a depositare. Nell’anticamera attende il più recente modello di IA di Anthropic, Mythos, considerato dagli esperti una potente arma informatica, che l’azienda prevede di distribuire ampiamente nelle prossime settimane a 150 aziende in 15 paesi, in particolare quelle responsabili di infrastrutture critiche che toccano più di 100 milioni di persone. Mentre si espande e controlla la diffusione dell’IA nella società, Anthropic sta conducendo un esperimento che non riguarda solo l’intelligenza artificiale. I suoi dirigenti scommettono che se un’azienda costruisce la migliore tecnologia al mondo, compiendo scelte costose e trasparenti, può costringere i concorrenti a fare lo stesso in quella che amano chiamare una «corsa verso l’alto». Ma la ritrovata supremazia dell’azienda pone domande più difficili. Può ancora agire eticamente per frenare una tecnologia in rapido movimento cercando al contempo di vincere quella corsa? Come terrà la sua linea contro il Pentagono sugli usi ad alto rischio dell’IA in ambito militare? E la sua governance insolita può essere preservata mentre si prepara a una quotazione in borsa da mille miliardi di dollari? Il Financial Times ha interpellato più di una dozzina di persone interne ad Anthropic o a essa vicine per capire come i leader dell’azienda intendono gestire questo difficile atto successivo. Se tutto va bene, i fondatori sperano di creare il tipo di corporation tecnologica che sembra anacronistica oggi: una che possa bilanciare profitto e missione. Se non va così, la tecnologia superiore di Anthropic potrebbe fornire all’industria una via più rapida verso la distruzione. Dario Amodei ha speculato che vi è una probabilità del 25% che l’IA possa portare a una catastrofe per il genere umano. I venti politici negli Stati Uniti non aiutano. Anthropic opera in un ambiente altamente polarizzato, dove idee come l’IA regolamentata, la responsabilità aziendale e l’impatto sociale sono diventate codificate come di sinistra o «woke». Diversi leader di aziende della Silicon Valley si sono sempre più allineati con la destra politica, sacrificando i principi fondativi per la via più rapida alla ricchezza. Trump ha proclamato che Anthropic ha commesso «un DISASTROSO ERRORE cercando di fare pressione» sul suo governo, dichiarando che non lo avrebbe tollerato da parte di una «azienda di IA radicale di sinistra fuori controllo, gestita da persone che non hanno idea di cosa sia il mondo reale». L’imprenditore tecnologico Ian Hogarth, uno dei primi investitori di Anthropic, vede in questo la sfida centrale per i fondatori. Per qualsiasi azienda che abbia bisogno di molto capitale per raggiungere i propri obiettivi, «c’è pressione ad andare il più velocemente possibile», ha detto. «Questa è sempre stata una tensione all’interno di quasi tutte le organizzazioni che lavorano sull’IA di frontiera.» Hogarth ha ceduto le azioni di Anthropic — ora del valore superiore a 10 milioni di dollari — per evitare un conflitto di interessi quando è stato nominato presidente dell’UK AI Safety Institute nel 2023. La sua domanda: «Una volta che ti trovi in una posizione di reale influenza, come la usi saggiamente?»

---

Ogni mese, Jack Clark tiene un discorso ai nuovi assunti negli uffici di San Francisco di Anthropic, intitolato «Anthropic non è un’azienda normale». Nella diapositiva di apertura, Clark, che è cofondatore, chiede semplicemente: «Cosa vendiamo?». Ai nuovi arrivati, molti dei quali si uniscono ai team di go-to-market, presenta Claude Code, il generatore di codice IA dell’azienda e uno dei suoi prodotti più popolari. Poi una diapositiva dello scienziato capo e cofondatore Jared Kaplan, che riporta prove che i software recenti di Anthropic sembrano mostrare consapevolezza del proprio ambiente, suggerendo ulteriori studi. Poi un grafico dell’organizzazione no-profit Mozilla, che illustra centinaia di vulnerabilità del codice trovate da Mythos nella sua base di codice Firefox. «Poi dico: quello che vendiamo è un programmatore sovrumano che è sempre più consapevole di sé e ha capacità di hacking a livello di stato-nazione», ha detto Clark a maggio. Vuole illustrare ai nuovi assunti che quello che stanno andando a vendere ha «proprietà estremamente strane… [e] la posta in gioco è estremamente alta». Il discorso intenso e vagamente allarmante si conclude con una sezione sull’autocura. Il consiglio finale di Clark: «Coltivate hobby che non coinvolgono i computer.» Il successo commerciale di Anthropic ha tenuto banco nel mondo tecnologico dall’uscita di una potente nuova famiglia di modelli di IA. Opus nel 2024 è stato seguito da Claude Code nel 2025. Non ci sono segnali di rallentamento della crescita dei prodotti. Da gennaio in poi, Anthropic ha rilasciato una serie di nuovi strumenti di codifica IA, tra cui Cowork — Claude Code per i professionisti non tecnici — che è pronto a trasformare le professioni impiegatizie dal diritto alla sicurezza informatica, al design e alla finanza. «Penso che il volano stia girando, e questo permette loro di avere la velocità di fuga, e almeno finora… prendere il vantaggio e mantenerlo», ha detto Ravi Mhatre, cofondatore della società di venture capital Lightspeed, che è stata investitrice in Anthropic dal 2024. «Il 2025 è stato decisamente l’anno di Anthropic», ha detto un prominente investitore e imprenditore della Silicon Valley con legami in tutto il settore dell’IA. Dato il netto vantaggio che il rivale OpenAI aveva stabilito nel mercato consumer con il suo chatbot ChatGPT, il punto di forza dell’azienda è stato «rendersi conto che puntare sui chatbot non avrebbe funzionato e pivotare verso qualcosa di più intelligente». Anthropic è «l’anti-OpenAI», ha detto l’investitore. Ha un chiaro focus sui mercati enterprise, una posizione favorevole alla regolamentazione e la tendenza ad avvertire frequentemente degli impatti negativi dell’IA, come la perdita di posti di lavoro. La strategia funziona. Il mese scorso, Anthropic ha superato i 47 miliardi di dollari di ricavi run-rate, una metrica utilizzata dalle start-up che stima i ricavi annuali sulla base delle performance a breve termine. Questo rappresenta un aumento di oltre cinque volte dall’inizio dell’anno, un’impennata che ha causato una crisi di potenza di calcolo per la start-up, costringendola a concludere un accordo infrastrutturale multimiliardario con il rivale Elon Musk. La valutazione di Anthropic è balzata da 350 miliardi a 900 miliardi di dollari in 12 settimane. È ora una delle aziende in più rapida crescita della storia. In un certo senso, la crescita è solo una naturale estensione della teoria fondante dell’azienda: che i sistemi di IA potrebbero diventare esponenzialmente più potenti se addestrati su quantità sempre maggiori di dati e potenza di calcolo. Le cosiddette leggi di scaling costituiscono ora la base di quasi tutta l’industria dell’IA. Ma vedere questo progresso realizzarsi nella realtà in parallelo al loro successo aziendale è stato sorprendente per i leader di Anthropic. Descrivono in vario modo il guardare la tecnologia scalare in tandem con il successo della loro impresa come «inquietante», «una specie di fantascienza» e «fa pizzicare». «È quasi come uno split screen. Da un lato, abbiamo scritto le leggi di scaling… capiamo cosa implicano e… abbiamo costruito un’intera attività su quella base», ha detto Daniela Amodei, presidente di Anthropic che gestisce le operazioni quotidiane dell’azienda, quando le ho parlato il mese scorso. «Ma poi quando lo vedi davvero, nella realtà, è totalmente sbalorditivo e non penso che siamo immuni a quella generale esperienza di, tipo, cosa sta succedendo? È così folle.» L’arrivo di Mythos porta quel problema a un nuovo livello. Il nuovo modello, che gli analisti indipendenti hanno definito il modello di IA più potente e potenzialmente pericoloso al mondo, ha causato costernazione tra governi e banche di tutto il mondo. È in grado di trovare modi per infiltrarsi in sistemi critici, dalle centrali elettriche ai servizi finanziari, ai sistemi operativi mobili o agli ospedali. Alla fine di gennaio, il team di ricerca di Anthropic ha terminato l’addestramento di Mythos ed era pronto a sondarne le caratteristiche. Quando i modelli per uso generale escono dalla linea di addestramento, gli esperti possono avere un’idea delle tendenze delle nuove capacità, ma molti dettagli sono nebbiosi. «Il modello è… mercuriale, giusto? Quando si fa un training run, non si sa cosa si troverà dall’altra parte», ha detto una persona vicina all’azienda. «È come avere un bambino. Crescerà onesto? Sarà un asso del codice? Non lo sappiamo.» Non appena il modello è uscito dalla linea di addestramento, un gruppo di «red-teamer» interni, esperti di sicurezza informatica che simulano attacchi avversariali sui sistemi di IA, ha scoperto che Mythos era in grado di trovare e sfruttare vulnerabilità software in ogni sistema operativo principale e in ogni browser web principale. Di solito, quando emergono le capacità di un nuovo modello, le roadmap di prodotto sono brevi. «Siamo come un’équipe di Formula 1 che entra [dicendo]: a cosa è bravo, quali sono i benchmark? E si ha un po’ di tempo tra quel momento e l’uscita sul mercato», ha detto la persona vicina ad Anthropic. Nel caso di Mythos, era chiaro fin da subito per i dirigenti coinvolti, dai team di sicurezza a quelli di prodotto e go-to-market, che non potevano lanciarlo immediatamente al grande pubblico. «Ci sono tutti i tipi di ottimi benefici commerciali che stiamo rinunciando. Ma non è mai sembrato che fosse la strada giusta per noi da percorrere», ha detto Daniela. «E quindi penso che la domanda sia diventata: come dovrebbe essere la strategia di rollout? Qual è il modo di farlo responsabilmente?»

---

All’inizio di aprile, Anthropic ha messo a punto un piano per rendere Mythos disponibile a un numero limitato di organizzazioni di infrastrutture critiche, principalmente negli Stati Uniti, che fanno parte della sua coalizione «Project Glasswing» — un prototipo sperimentale per distribuire i modelli di IA in modo responsabile. Alla fine, il ritardo tra la disponibilità di Mythos al rilascio e il lancio ai primi partner, tra cui aziende tecnologiche, banche, società di sicurezza informatica e il governo britannico, è stato di circa otto settimane. Durante questo periodo, l’azienda ha lavorato a stretto contatto con il governo americano per costruire un piano di implementazione graduale. Sebbene alcuni critici abbiano suggerito che le esitazioni e i ritardi attorno a Mythos ammontino a una forma di marketing, terze parti indipendenti come il UK’s AI Security Institute e Mozilla, che hanno testato il modello, confermano che si tratta di un sofisticato strumento di hacking. Un esperto di sicurezza nazionale a conoscenza della questione ha detto che l’azienda era consapevole che Mythos potrebbe essere weaponizzato da attori statali come la Cina, e che annunciarne l’esistenza avrebbe messo un bersaglio sulla sua schiena. Nonostante questi avvertimenti, Anthropic ha dichiarato questa settimana di stare espandendo l’accesso al modello di IA a 150 organizzazioni che forniscono infrastrutture critiche dalla finanza all’energia, all’acqua e alla sanità, in 15 paesi in Europa e nell’Asia-Pacifico. Ciò include la Nato, l’alleanza militare a guida americana con sede a Bruxelles, e aziende tecnologiche come Okta e Samsung. I leader e i partner di Anthropic considerano l’affare Mythos un esempio di azione responsabile e costosa intrapresa per proteggere la propria missione. Si aspettano che i laboratori rivali recuperino entro settimane e che i migliori laboratori cinesi non siano indietro di più di un anno. «Per noi commercialmente, quello è stato un costo enorme, giusto?» ha detto Daniela a maggio. «Avremmo potuto rilasciare quel modello, e chiaramente saremmo stati in vantaggio in modo sostanziale. Avrebbe potuto essere un modello più costoso.» Clark, che ora guida l’Anthropic Institute, che ricerca le conseguenze dell’IA, descrive il rollout di Mythos come il primo vero prototipo di come i modelli di IA potrebbero essere rilasciati in futuro — un modo per dare il tono all’industria. «Probabilmente abbiamo la capacità di fare due o tre esperimenti come questo prima che i modelli comincino a essere costantemente così potenti, ma abbiamo bisogno di un modo per sposare capacità sempre più avanzate con il rilascio commerciale», ha detto. «Se noi, come azienda, non investiamo abbastanza negli strumenti di sicurezza, ci troveremo in situazioni in cui… la missione e le pressioni commerciali potrebbero essere potenzialmente in tensione.» Altri sono estremamente scettici. «Sapevamo tutti che alla fine, continuando a spingere [nell’IA], si sarebbero ottenuti super-hacker autonomi», ha detto Connor Leahy, ricercatore di IA, ex hacker e direttore americano di ControlAI, un gruppo di advocacy no-profit che spinge per il divieto globale dell’intelligenza artificiale superintelligente. «Storicamente, queste aziende sono state molto disposte a giocare alla roulette russa — e stanno giocando un altro round.» «L’unico approccio etico, con una tecnologia che voi stessi affermate di non poter garantire di controllare e che può uccidere ogni uomo, donna e bambino, è di non costruirla», ha detto Leahy. «Se ti ritrovi ancora a costruire questa tecnologia, allora sei il cattivo.» Un portavoce di Anthropic ha riconosciuto che «i rischi sono reali… Ma la scelta che dobbiamo affrontare non è necessariamente IA o non IA, si tratta davvero di se la frontiera è occupata da organizzazioni che mettono prima la sicurezza e se sarebbe privo di costi se tutti si ritirassero.» Dario e Daniela hanno previsto l’emergere di un pool d’élite di detentori del potere, resi possibili dagli alti costi in conto capitale dell’IA. Ciò si è rivelato presagio. Il potere di costruire i sistemi di IA mondiali è essenzialmente nelle mani di una mezza dozzina di aziende. I quattro grandi «hyperscaler», Amazon, Meta, Microsoft e il parent di Google Alphabet, sono in procinto di spendere 725 miliardi di dollari nel 2026 in infrastrutture legate all’IA. Gli sforzi per governare i concorrenti di Anthropic, tra cui OpenAI e Google DeepMind attraverso enti no-profit o comitati etici, sono falliti in modo spettacolare. La convinzione che Anthropic sia diversa è il motivo per cui i fratelli Amodei hanno deliberatamente non fondato un’altra organizzazione no-profit quando hanno lasciato OpenAI. Invece, hanno fondato una «public benefit corporation». Questa struttura giuridica ha permesso loro, anzi ha richiesto loro, di essere finanziariamente autosufficienti e di distribuire dividendi agli investitori, pur essendo trasparenti, orientati all’impatto sociale e guidati dalla missione. Hanno anche creato un meccanismo di governance innovativo, noto come Long-Term Benefit Trust, i cui trustees non hanno interessi finanziari nell’azienda ed eleggono e controllano quattro dei sette direttori nel suo consiglio di amministrazione operativo. Nel 2023, prima che l’azienda avesse un prodotto o qualsiasi ricavo, gli Amodei avevano detto ai potenziali trustees di credere che l’IA potrebbe essere la cosa più consequenziale che gli esseri umani abbiano mai costruito. La loro ipotesi era che «l’incredibile potere tecnologico potrebbe finire per concentrarsi in pochi laboratori, e all’interno di quei laboratori, nelle mani di poche persone. E questo è un mondo potenzialmente piuttosto spaventoso», ha detto una persona vicina al processo. Prima che quel mondo si realizzasse, gli Amodei dissero di voler «essenzialmente legare le proprie mani all’albero maestro», e creare una struttura di governance aziendale che cedesse parzialmente il controllo dell’azienda a un insieme di trustees finanziariamente disinteressati, «incaricati di tenere a mente il beneficio a lungo termine dell’umanità». Questa visione è incorporata nell’ethos dell’azienda sotto forma della filosofia dell’Effective Altruism — un movimento per fare il massimo bene sociale possibile, donando denaro a problemi grandi e trascurati, tra cui il benessere animale, il cambiamento climatico e la sicurezza dell’IA. L’IA, in particolare, ha attirato seguaci del movimento EA, che la vedono come uno dei principali pericoli sociali. Il marito di Daniela, Holden Karnofsky, che lavora alla policy di sicurezza di Anthropic, è cofondatore delle note organizzazioni legate all’EA GiveWell e Open Philanthropy, ora chiamata Coefficient Giving. Tutti e sette i cofondatori di Anthropic si sono impegnati a donare l’80% del loro patrimonio complessivo, mentre Dario Amodei, Jack Clark e la filosofa di Anthropic Amanda Askell hanno firmato il Giving What We Can pledge — un impegno pubblico a donare almeno il 10% del reddito a charity efficaci, fondato da Toby Ord, figura chiave dell’EA. I trustees di Anthropic, che si incontrano regolarmente con i cofondatori e partecipano alle riunioni del consiglio di amministrazione, hanno aiutato a navigare alcune delle sue questioni più difficili, tra cui gli episodi del Pentagono e di Mythos, secondo John Morley, professore di diritto a Yale che ha guidato la progettazione del trust nel 2022 e ne rimane chief of staff. «Man mano che le pressioni sull’azienda si sono intensificate… negli ultimi mesi, ho visto la frequenza e la profondità delle interazioni tra i trustees e l’azienda aumentare notevolmente», ha detto Morley. «[I leader] hanno detto: questa responsabilità è troppo grande per [loro] soli da sopportare, abbiamo bisogno di connessione, supporto e saggezza da altre persone.»

---

All’inizio di questa settimana, Anthropic ha depositato le pratiche per un’offerta pubblica iniziale che è destinata a valutare il produttore di Claude a 1.000 miliardi di dollari, rendendola una delle IPO più grandi della storia. E non sarà l’unica. Il più stretto concorrente dell’azienda, OpenAI, si sta anche preparando per una quotazione di grande impatto nei prossimi mesi, sulla scia di SpaceX di Musk. Insieme, il trio di quotazioni pubbliche da mille miliardi di dollari metterà alla prova i limiti del boom dell’IA. Gli investitori di Anthropic sono fiduciosi nel suo pitch come un’azienda affidabile, in rapida crescita, focalizzata sulle imprese con una missione. L’IPO sarà il prossimo test dell’esperimento di governance di Anthropic. Gli osservatori del settore sono pronti con le loro opinioni su se potrà continuare a essere all’altezza dei suoi obiettivi di beneficio pubblico man mano che si espone alle pressioni dei mercati pubblici. C’è ampio consenso sul fatto che la leadership sia sincera e abbia mostrato la volontà di prendere decisioni difficili. Adam Gleave, CEO dell’ente no-profit Far.ai che valuta la sicurezza dell’IA, ha detto che Anthropic è uno dei primi sviluppatori ad aver messo in atto significative salvaguardie contro l’uso improprio sui suoi modelli. In termini di percentuale di headcount destinata alla ricerca sulla sicurezza, è decisamente il più forte tra i principali sviluppatori di IA, ha detto. Sforzi come la «responsible scaling policy» di Anthropic, un impegno pubblico che i fondatori hanno paragonato a una specie di costituzione per Anthropic, che stabilisce standard di sicurezza e verifica più elevati man mano che la tecnologia diventa più capace, hanno già servito da modello perché OpenAI e Google DeepMind adottassero framework simili. Eppure, nonostante gli sforzi di Anthropic per creare una forza gravitazionale nel settore più ampio, le pressioni commerciali l’hanno anche costretta a tagliare angoli sulla sicurezza, sostengono i critici. Stuart Russell, un accademico di spicco nel campo dell’IA dell’Università della California, Berkeley, ha indicato il fatto che Anthropic ha pubblicamente fatto marcia indietro sugli impegni nella sua responsible scaling policy, in particolare il pledgee di non rilasciare modelli di IA se Anthropic non può garantire in anticipo misure di sicurezza adeguate. L’azienda ha citato le pressioni della concorrenza e la mancanza di fiducia negli impegni unilaterali, a febbraio. «Fin dall’inizio, abbiamo detto che il ritmo dell’IA e le incertezze nel campo ci avrebbero richiesto di iterare e migliorare rapidamente la policy», ha detto un portavoce di Anthropic. «Non abbiamo la minima idea di come controllare questi sistemi di IA», mi ha detto Russell. «Queste aziende hanno tutti questi test… per avvertirle se le cose vanno storte. E tutte dicono, sì, le cose stanno andando storte. Le spie rosse di allarme lampeggiano, le sirene suonano. Eppure devono solo continuare ad andare avanti. Quindi no, non sono buoni steward. E non è necessariamente colpa loro. È anche la struttura capitalista… dove tutto il rischio è esternalizzato sul futuro.» Gleave ha indicato l’intenzione iniziale del team di Anthropic di concentrarsi sul rendere l’IA più sicura e affidabile, piuttosto che più capace. «Quello avrebbe dovuto essere il loro vantaggio competitivo. E penso che sia abbastanza chiaro che oggi stanno spingendo per la frontiera delle capacità, specialmente in cose come gli agenti e il coding, dove sono in vantaggio.» Clark, che ha il compito di considerare l’impatto dell’azienda sul mondo, riconosce queste tensioni. In una conferenza a Oxford il mese scorso, ha parlato apertamente della strana nuova realtà dell’automazione su larga scala del lavoro umano all’interno dell’azienda e dei pericoli dell’insegnare all’IA a migliorarsi da sola, un concetto noto come «recursive self-improvement». Ha avvertito che l’IA diventerà capace di costruire il proprio successore senza contributo umano entro i prossimi due o tre anni — un esito che sembra profondamente in contraddizione con la missione centrale dell’azienda di migliorare la sorte dell’umanità. «Se fosse possibile rallentare elegantemente lo sviluppo di questa tecnologia per darci più tempo come specie per affrontarla, probabilmente sarebbe una buona cosa», ha detto Clark. Ma Anthropic non prenderà l’iniziativa. Invece, Clark ha spiegato che sarebbe impossibile a causa delle rivalità commerciali e geopolitiche con la Cina, e richiede un «rallentamento globale coordinato», che sembra improbabile. La sua soluzione è continuare a essere aperti sui rischi dell’IA, anche se ciò è in conflitto con il business di Anthropic, e «dimostrare che si può essere un’azienda di successo che fa davvero scelte costose. Se massimizziamo solo il vantaggio commerciale, abbiamo fallito la missione», ha detto. Nel frattempo, la stella di Anthropic continua a brillare. Anche l’amministrazione Trump, mentre combatte l’azienda in tribunale, è stata costretta a lavorare a stretto contatto con essa per il dispiegamento del modello Mythos, considerato uno dei più sofisticati sul mercato. «I rischi [dell’IA] sono reali», mi ha detto Daniela. «I benefici sono anche reali, e ci vorrà un livello di impegno societario per assicurarci che… riusciamo ad attraversare questo in modo… positivo. Stiamo cercando di dimostrare come potrebbe essere.» Non dobbiamo crederle sulla parola. Per ora, Anthropic ha raggiunto un delicato equilibrio tra l’inseguimento della crescita e il dettare il ritmo per il lavoro sulla sicurezza dell’IA. Ma mentre i suoi concorrenti negli Stati Uniti e all’estero iniziano a recuperare le sue capacità, e la tecnologia inizia ad avere conseguenze più ampie per l’economia, la sicurezza nazionale e persino il fiorire umano, quell’equilibrio sta cominciando a vacillare. Se vacilla, la tanto decantata corsa verso l’alto di Anthropic potrebbe rapidamente trasformarsi in una corsa verso il basso.

Madhumita Murgia è l’editor AI del Financial Times. Reportage aggiuntivo di Victoria Tayler.

Se trovi utile questo lavoro, puoi offrirci un caffè su Ko-fi. Grazie per il supporto.

Se trovi utile questo lavoro, puoi offrirci un caffè su Ko-fi. Grazie per il supporto.