L’intelligenza artificiale (grazie all’addestramento umano) imbroglia e inganna. Tutti i rischi e i pericoli
“Non dormo la notte se penso ai rischi e alla mancanza di regole”. Sam Altman, il papà di ChatGPT lo aveva detto lo scorso febbraio. Una delle molte voci che da mesi lanciano allarmi sull’intelligenza artificiale e le possibili imprevedibili, secondo alcuni, derive da un utilizzo della tecnologia. A gennaio, il Massachusetts institute of technology […]
L'articolo L’intelligenza artificiale (grazie all’addestramento umano) imbroglia e inganna. Tutti i rischi e i pericoli proviene da Il Fatto Quotidiano.
“Non dormo la notte se penso ai rischi e alla mancanza di regole”. Sam Altman, il papà di ChatGPT lo aveva detto lo scorso febbraio. Una delle molte voci che da mesi lanciano allarmi sull’intelligenza artificiale e le possibili imprevedibili, secondo alcuni, derive da un utilizzo della tecnologia. A gennaio, il Massachusetts institute of technology aveva sottolineato la difficoltà dell’intelligenza artificiale di sostituirsi all’uomo, a causa degli alti costi per lo sviluppo e la gestione degli algoritmi. Adesso, l’istituto diffonde i dati di una ricerca, pubblicata sulla rivista Patterns, che evidenzia come la tecnologia, “grazie” all’addestramento umano, sia andata talmente avanti da aver creato IA che possono comportarsi proprio come gli esseri umani, bluffando per raggiungere i loro obiettivi.
Il report ha preso in esame l’uso dell’IA in contesti specifici, come i giochi online. Lo ha fatto studiando Cicero, un’intelligenza artificiale presentata nel 2022 da Meta e in grado di sconfiggere gli umani in una versione online di Diplomacy, un popolare gioco di strategia militare in cui i giocatori negoziano alleanze per competere per il controllo dell’Europa. I ricercatori di Meta hanno affermato di aver addestrato Cicero su un sottoinsieme ‘veritiero’ del suo set di dati, affinché l’IA si comportasse onestamente. Ma i ricercatori del Mit sostengono che l’IA ha agito diversamente, bluffando e usando l’inganno in maniera premeditata, per vincere le sue partite.
Peter Park, autore della ricerca del Mit, ha dichiarato in una nota ufficiale: “Man mano che le capacità ingannevoli dei sistemi di intelligenza artificiale diventano più avanzate, i pericoli che rappresentano per la società diventeranno sempre più seri“. Ma non solo Meta, lo studio ha analizzato anche AlphaStar, un’intelligenza artificiale sviluppata da Google DeepMind per il videogioco StarCraft II.
L’IA, secondo gli esperti, è diventata così abile nell’effettuare mosse ingannevoli da sconfiggere il 99,8% dei giocatori umani. Infine ChatGpt: Park e soci hanno ‘indotto’ il famoso chatbot a comportarsi da insider trading per vendere azioni di borsa, tirando in ballo andamenti del mercato e valori inesatti. Per il Mit, una soluzione al problema può arrivare dai regolamenti internazionali e dagli organi atti a monitorare ogni software di IA pensato per il pubblico.
L'articolo L’intelligenza artificiale (grazie all’addestramento umano) imbroglia e inganna. Tutti i rischi e i pericoli proviene da Il Fatto Quotidiano.