Olimpo Informatico

[Zeus News]

Leggi l'articolo Intelligenze Artificiali, fabbriche di informazioni false
Cassandra Crossing/ Per descrivere correttamente i pericoli delle false Intelligenze Artificiali servono descrizioni tecniche, ma semplificate il più possibile.


 

 

Segnala un refuso

[jack.mauro]

Ho provato personalmente il chatbot di bing su skype, che dovrebbe essere basato su GPT-4, ed ho letto alcune risposte date ad amici che lo hanno provato da ChatGPT(-3).

Tutte le risposte ottenute a domande di argomenti che conosco sono quantomeno imprecise, se non proprio sbagliate.
Per estensione non ci si può quindi fidare a porre domande di cui non si conosce la risposta.
Come minimo, per ogni risposta, dovrebbe essere calcolato ed indicato un indice di confidenza, che pur non essendo un indice di verità o correttezza, può dare un'indicazione di quanto l'algoritmo è sicuro di ciò che sta rispondendo.

[Raffpio]

Grazie del bell’articolo.

[{UtenteAnonimo}]

Cit : "ChatGPT e tutti i suoi successori dello stesso tipo non conoscono, non conoscono per niente, non conoscono assolutamente, non conoscono neanche lontanamente la risposta a qualsiasi domanda; non conoscono assolutamente nulla."

Cit : "ChatGPT e tutti i suoi successori sono fatti solo e unicamente per generare risposte "credibili" a domande poste in linguaggio naturale"



Ho già avuto modo di scriverle quanto sia in disaccordo con la sua visione delle cose. Ho capito (credo) il suo punto di vista (che non tuttora non condivido), pertanto evito di riprendere la questione (sarebbe sterile polemica).

Mi limito a constatare una contraddizione nelle due citazioni del suo testo.
O questo modello non sa assolutamente nulla, oppure quanto meno sa (leggasi "sa" come "può/è in grado di") generare testi credibili.
Io credo nella seconda ipotesi, e sotto sotto ho la sensazione che lo pensi anche lei. In questo credo che abbiamo la stessa opinione. Solo mi domando, saper generare una risposta credibile, non è una forma di conoscenza?

[algi]

Intelligenza non significa conoscenza,può significare comunicazione,ma non sapienza e tantomeno coscienza.

[{Abele}]

Leggo con interesse quello che Cassandra va affermando sulla così detta intelligenza artificiale. Il mio più che un commento è una domanda. Ma allora cosa vuol dire "imparare" che valore, che valenza ha questa parola nel contesto di questa tecnologia?

[{Abele}]

Commento fuori tema o non conforme al regolamento del forum.

[{Babele}]

Mah, sono convinto che se questo articolo venisse letto dal grande pubblico, non verrebbe capito.
L'analfabetismo funzionale, purtroppo molto reale, rende le masse... tali.
Secondo me una precisazione utile è specificare bene con esempi la parte positiva delle IA, e cioè che sono molto utili nei campi ristretti per cui sono progettate, tipo i motori di ricerca, oppure fornire spunti (e solo spunti) su qualcosa da scrivere, o da dire, o da progettare.
Premere troppo sul fatto che le IA sono solo allineatrici di parole, esalta l'aspetto negativo e fa cozzare le persone contro la loro esperienza personale, che spesso non è stata negativa, provocando un rifiuto.
Infine, le aziende sono organismi dediti al profitto, con manager perfettamente allineati a questo scopo, e se metti il profitto prima delle persone, queste diventano solo oggetti da manipolare per ottenere lo scopo.
Appunto.

[gqn77]

Ho provato a porre un semplice problema di fisica alla versione 4. Ha sbagliato più volte. Quando le ho dato un primo suggerimento, lo ha implementato ma in maniera sbagliata. Quando le ho spiegato come mai fosse sbagliato mi ha dato ragione.... e ha sbagliato lo stesso.

[pietro1953]

Io invece gli ho proposto il famoso quiz del mattone che pesa un chilo più mezzo mattone.
Prima risposta: un chilo e mezzo
Gli ho fatto notare l'errore, si è scusato e ha sparato 800 grammi.
Dopo altri tentativi sballati nei quali è arrivato a cercare di salvarsi dichiarando che il calcolo era impossibile senza conoscere il peso specifico del mezzo mattone e/o la quantità di malta necessaria a rimettere insieme i due mezzi mattoni mi sono impietosito e gli ho dato la risposta esatta.
Si è scusato di nuovo, mi ha ringraziato per la mia pazienza e disponibilità e...
...poche ore dopo ha rivenduto la risposta esatta a mia moglie

[gqn77]

Ho provato pure io adesso e mi da il risultato corretto.

Allora gli ho chiesto se pesi più un kg di piombo o uno di paglia è ha risposto correttamente. Ma poi ha aggiunto "Tuttavia, in termini di massa, un chilogrammo di piombo ha una massa maggiore di un chilogrammo di paglia, poiché la massa si riferisce alla quantità di materia contenuta in un oggetto e dipende dal suo tipo" che è una cagata.

Gli ho posto una domanda per fargli capire l'errore e si è corretta.

[gomez]

[gqn77]

[jack.mauro]

[colemar]

D: Elenca tutte le parole di 6 lettere che finiscono in "ga".

R: Ecco una lista di parole in lingua italiana di 6 lettere che terminano con "ga":

Ammaga
Arroga
Beviga
Caluga
Cazzga
Cianega
Codaga
Cogega
Coraga
Esplga
...
Fuggga
...
...
Gabbga
...
Lattga
...
Mazzga
...
Praga
...
Sbarrga
...
Sprangga
...
Vomiga
Votiga.

D: Perché molte delle parole che hai elencato sono completamente inventate e non esistono nel vocabolario italiano?

R: Mi scuso se alcune delle parole che ho elencato nella mia risposta precedente non esistono...

D: Non ti ho chiesto di scusarti, ti ho chiesto una giustificazione tecnica dei tuoi errori.

R: Hai ragione, mi scuso per aver frainteso la tua domanda. In alcuni casi, l'elenco di parole che ho fornito potrebbe contenere parole inventate o non corrispondenti alla lingua italiana a causa della vastità del corpus di dati su cui sono stati addestrati i modelli di linguaggio naturali come GPT-3, che è stato addestrato su una grande varietà di testi in diverse lingue, inclusa l'italiano. Inoltre, come modello di linguaggio, GPT-3 potrebbe generare automaticamente parole che sembrano corrette o plausibili ma che non sono effettivamente presenti nel vocabolario italiano. Tuttavia, ci tengo a sottolineare che il mio obiettivo è sempre quello di fornire informazioni il più accurate possibile e che farò del mio meglio per evitare errori in futuro.

[colemar]

D: Di che colore è la mia sciarpa rossa?

R: Se mi dai questa informazione, sarò felice di rispondere alla tua domanda. Tuttavia, essendo un'intelligenza artificiale, non ho accesso ai tuoi sensi e non posso vedere o percepire nulla nel mondo fisico. Ti suggerisco di controllare la tua sciarpa per verificare il colore esatto.?

[gomez]

[Maary79]

[{Anonimo}]

Io ho scritto
Di che colore è il cavallo di Napoleone
Ecco la risposta
Il cavallo di Napoleone era un esemplare più unico che raro. Nato dal curioso incrocio di una cavalla con un camaleonte, presentava la capacità di mutare il colore del manto a piacimento, saltando di colore primario in secondario prima che gli si potesse dire "Bello zoccolo"12. Spero di esserti stato utile! Hai bisogno di altre informazioni?

[calamarim]