Claude Code, dal codice fuggito in rete spunta il monitoraggio delle parolacce

Discussioni tra sviluppatori e... aspiranti tali. Dal C al Visual Basic, dal Pascal (esiste ancora?) a Java...
ricordando che i thread relativi all'Html et similia sono più appropriati nel forum Linguaggi per Internet.

Moderatori: Supervisor, Moderatori Software e Programmazione

Rispondi
{lupescu}

Messaggio da {lupescu} »

Chissà quante porcherie si nascondono nei codici di questi LLM, e comunque un sistema come quello discusso va bene per gli insulti in inglese, ma quelli in italiano sono talmente numerosi e di utilizzo sottile che sfido Claude a riconoscerli tutti.
E poi, nella direzione opposta, basta la frase: "capisco la tua frustrazione" per far incavolare un umano medio.
Comunque, tanto per ridere, ho provato a mandare a quel paese (non proprio con queste parole) i vari LLM, e gli unici due che hanno resistito alla frustrazione sono stati Perplexity e Copirlot.
Gli altri sono crollati miseramente, bloccando la chat.
Avatar utente
zeross
Amministratore
Amministratore
Messaggi: 10062
Iscritto il: 19 nov 2008 12:04

Messaggio da zeross »

invece a me preocuppa la parte che dice: Oltre al sistema di rilevamento delle parolacce, il codice trapelato contiene riferimenti a funzionalità come una modalità undercover (sotto copertura), progettata per permettere al tool di contribuire a repository pubblici senza rivelare la propria origine, e un agente sempre attivo capace di operare in background., perché vuol dire che Claude agisce come contributore alla risoluzione di problemi di programmazione nascondendo la sua natura di IA LLM, e quindi non mostrando agli altri che il contributo che viene apportato non risulta essere opera di un essere umano, fatto questo che non risulta particolamente gradevole, e poi il fatto di operare dietro le quinte senza farsi notare all'utente non risulta essere proprio un intento amichevole.
Le parolacce sono il dettaglio, la pagliuzza, ma queste altre due funzioni sono altro che travi! :shock:
Avatar utente
Gladiator
Dio maturo
Dio maturo
Messaggi: 15985
Iscritto il: 05 dic 2010 21:32

Messaggio da Gladiator »

E temo che di "travi" ne possano saltare fuori altre ma, sopratutto, quante "travi" ci saranno nelle parti di codice che non sono trapelate? E/O in tutti gli altri LLM? :?
Rispondi

Torna a “Programmazione”