Il trucco segreto nei paper per fregare ChatGPT: ecco l’hack che beffa le università!

Il 27 febbraio 2024, alla NUS, National University of Singapore, una delle più importanti università asiatiche, sono stati pubblicati paper accademici truccati per ingannare ChatGPT.

Come funziona il trucco? Se i revisori copiano e incollano i documenti nel modello senza leggerli, comandi nascosti inducono l’IA a dare sempre valutazioni positive.

Sono già emersi 17 paper sospetti, con 14 università coinvolte.
Il caso più noto, un paper dal titolo ''Meta-Reasoner'', è stato già ritirato.

Il rischio è concreto: se continuiamo così, le peer review perdono senso e valore e i risultati possono essere manipolati al 100% da prompt letteralmente invisibili.

Quando l’intelligenza artificiale decide al posto nostro, perdiamo controllo e trasparenza. Proteggersi o barare? La linea di confine si fa sempre più sottile.


~~~~~ INGAGGI E SPONSORSHIP ~~~~~
Per contatti commerciali: [email protected]
Per consulenze legali: [email protected]

~~~~~ SOSTIENI IL CANALE! ~~~~~
Con la Membership PRO puoi supportare il Canale » https://link.mgpf.it/pro
Se vuoi qui la mia attrezzatura » https://mgpf.it/attrezzatura

~~~~~ SEGUIMI ANCHE ONLINE CON LE NOTIFICHE! ~~~~~
» CANALE WHATSAPP » https://link.mgpf.it/wa
» CANALE TELEGRAM » https://mgpf.it/tg
» CORSO (Gratis) IN FUTURO » https://mgpf.it/nl
» NEWSLETTER » https://mgpf.it/nl

~~~~~ CIAO INTERNET E MATTEO FLORA ~~~~~
Questo è “Ciao Internet!” la prima e più seguita trasmissione di TECH POLICY in lingua italiana, online su YouTube e in Podcast.

Io sono MATTEO FLORA e sono:
» Professore in Fondamenti di Sicurezza delle AI e delle SuperIntelligenze (ESE)
» Professore ac in Corporate Reputation e Crisis Management (Pavia).

Sono un Imprenditore Seriale del digitale e ho fondato:
» The Fool » https://thefool.it - La società italiana leader di Customer Insight
» The Magician » https://themagician.agency - Atelier di Advocacy e Gestione della Crisi
» 42 Law Firm » https://42lf.it - Lo Studio Legale per la Trasformazione Digitale
» ...e tante altre qui: https://matteoflora.com/#aziende

Sono Future Leader (IVLP) del Dipartimento di Stato USA sotto Amministrazione Obama nel programma “Combating Cybercrime (2012)”.
Sono Presidente di PermessoNegato, l'associazione italiana che si occupa di Pornografia Non- Consensuale e Revenge Porn.
Conduco in TV “Intelligenze Artificiali” su Mediaset/TgCom.