Indice del forum Olimpo Informatico
I Forum di Zeus News
Leggi la newsletter gratuita - Attiva il Menu compatto
 
 FAQFAQ   CercaCerca   Lista utentiLista utenti   GruppiGruppi   RegistratiRegistrati 
 ProfiloProfilo   Messaggi privatiMessaggi privati   Log inLog in 

    Newsletter RSS Facebook Twitter Contatti Ricerca
GitLab Duo a rischio: manipolare l'IA è tutt'altro che difficile
Nuovo argomento   Rispondi    Indice del forum -> Programmazione
Precedente :: Successivo  
Autore Messaggio
Zeus News
Ospite





MessaggioInviato: 29 Mag 2025 11:00    Oggetto: GitLab Duo a rischio: manipolare l'IA è tutt'altro che difficile Rispondi citando

Leggi l'articolo GitLab Duo a rischio: manipolare l'IA è tutt'altro che difficile
Ingannare l'assistente IA per fargli generare codice malevolo è sorprendentemente semplice.


 
Foto di Clint Patterson.
 

Segnala un refuso
Top
Homer S.
Dio Kwisatz Haderach


Registrato: 24/12/21 10:59
Messaggi: 6362
Residenza: Ormai ci sono solo io qui in pianta stabile, che lo chiedete a fare?

MessaggioInviato: 29 Mag 2025 12:32    Oggetto: Rispondi citando

Citazione:
ma non è stata trovata una soluzione definitiva per bloccare completamente le prompt injection.

Sembra un déjà vu della IoT... Non si trova una soluzione definitiva perché non si vuole rinunciare ai vantaggi dello status quo: mettere una backdoor nelle webcams o un meccanismo di by-pass dell'autenticazione fa comodo, nevvero?

Twisted Evil
Top
Profilo Invia messaggio privato
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 21:32
Messaggi: 14238
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 02 Giu 2025 14:25    Oggetto: Rispondi citando

Citazione:
Gli utenti sono pertanto invitati a ispezionare attentamente il codice e le risposte generate da Duo[...]

Vanificando quindi in parte o in toto gli eventuali risparmi di tempo derivanti dal suo utilizzo, in pratica meglio non usarlo anche perché pure un'attenta ispezione potrebbe non essere sufficiente ad individuare una potenziale minaccia.
Top
Profilo Invia messaggio privato
zeross
Amministratore
Amministratore


Registrato: 19/11/08 12:04
Messaggi: 8076
Residenza: Atlantica

MessaggioInviato: 02 Giu 2025 14:56    Oggetto: Rispondi citando

Che fiducia posso avere in un programmatore che ricorre massicciamente all'assistenza di una IA per generare codice sorgente?
Top
Profilo Invia messaggio privato MSN
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 21:32
Messaggi: 14238
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 02 Giu 2025 15:06    Oggetto: Rispondi citando

Dipende da chi sei, se sei il suo capo che glielo ordina per ridurre i tempi e massimizzare la produzione di codice dicendogli di affidarsi alla IA, direi totale perché segue appieno le tue richieste... Laughing
Top
Profilo Invia messaggio privato
Homer S.
Dio Kwisatz Haderach


Registrato: 24/12/21 10:59
Messaggi: 6362
Residenza: Ormai ci sono solo io qui in pianta stabile, che lo chiedete a fare?

MessaggioInviato: 02 Giu 2025 18:12    Oggetto: Rispondi citando

A noi in azienda hanno proposto, incentivato e caldeggiato l'uso della IA sul lavoro. Ovviamente nessuno ha indicato delle linee guida sul quando, come e dove fermarsi.

Ma non sorprende: è uno strumento nuovo, all'inizio sky is the limit, poi alla fine abbiamo toccato il fondo, ora iniziamo a scavare...

Shocked
Top
Profilo Invia messaggio privato
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 21:32
Messaggi: 14238
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 02 Giu 2025 18:35    Oggetto: Rispondi citando

Da noi almeno le policy e le linee guida le hanno pubblicate ed hanno imposto di rispettarle ed hanno aperto all'uso dell'IA solo e soltanto perché gli utenti si stavano già arrangiando per conto loro in ordine sparso e scoordinato e svano facendo danni per conto loro per cui era necessario dargli regole e controllarli per evitare che facessero scemenze troppo grosse.
Top
Profilo Invia messaggio privato
Homer S.
Dio Kwisatz Haderach


Registrato: 24/12/21 10:59
Messaggi: 6362
Residenza: Ormai ci sono solo io qui in pianta stabile, che lo chiedete a fare?

MessaggioInviato: 02 Giu 2025 18:38    Oggetto: Rispondi citando

Anche da noi, ma quel che volevo dire è che il mantra attuale è usare l'IA ogni volta che si può. Dovrò approfondire la questione sul piano formativo, ma dei caveats sul momento di dire stop per ora non li ho colti.

Ci sono numerosi scenari in cui:



Top
Profilo Invia messaggio privato
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 21:32
Messaggi: 14238
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 02 Giu 2025 18:50    Oggetto: Rispondi citando

Homer S. ha scritto:
Anche da noi, ma quel che volevo dire è che il mantra attuale è usare l'IA ogni volta che si può.

Intendi a livello generale o nella tua azienda?
A livello generale la vedo anch'io così, nella mia azienda non ci sono invece ancora tutto questa euforia acritica e la volontà di usare la IA su tutto e per tutto.
Top
Profilo Invia messaggio privato
Homer S.
Dio Kwisatz Haderach


Registrato: 24/12/21 10:59
Messaggi: 6362
Residenza: Ormai ci sono solo io qui in pianta stabile, che lo chiedete a fare?

MessaggioInviato: 03 Giu 2025 08:16    Oggetto: Rispondi

Io ragiono in termini generali, certo.
Top
Profilo Invia messaggio privato
Mostra prima i messaggi di:   
Nuovo argomento   Rispondi    Indice del forum -> Programmazione Tutti i fusi orari sono GMT + 2 ore
Pagina 1 di 1

 
Vai a:  
Non puoi inserire nuovi argomenti
Non puoi rispondere a nessun argomento
Non puoi modificare i tuoi messaggi
Non puoi cancellare i tuoi messaggi
Non puoi votare nei sondaggi