Instrumentele AI au făcut ușoară generarea de sunet vorbit nou, care poate imita practic pe oricine, obținând clonarea vocii.
Acest lucru a dus la creșterea înșelătoriilor audio deepfake, fiind clonate vocile membrilor familiei, directorilor companiei și liderilor politici precum președintele american Joe Biden. Acestea pot fi mult mai dificil de identificat în comparație cu videoclipurile sau imaginile generate de AI.
„În ceea ce privește clonarea vocii, este dificil de distins între real și fals, deoarece nu există componente vizuale care să ne sprijine creierul în luarea acestei decizii”, spune Rachel Tobac, co-fondatorul SocialProof Security, o organizație de hacking cu pălărie albă.
Detectarea unor astfel de deepfake audio AI poate fi deosebit de dificilă atunci când sunt folosite în apeluri video și telefonice. Dar există câțiva pași de bun simț pe care îi puteți urma pentru a distinge oamenii autentici de vocile generate de AI.
4 pași pentru a recunoaște dacă sunetul a fost clonat sau falsificat folosind AI:
Personalități publice: dacă clipul audio este al unui oficial ales sau al unei celebrități, verificați dacă ceea ce spune AI este în concordanță cu ceea ce a fost deja raportat public sau împărtășit despre opiniile și comportamentul lor.
Căutați inconsecvențe: comparați clipul audio cu clipurile video sau audio autentificate anterior care prezintă vocea aceleiași persoane. Observați dacă există neconcordanțe în sunetul vocii sau în manierele lor de vorbire!
Tăceri incomode: dacă ascultați un apel telefonic sau un mesaj vocal și difuzorul face pauze neobișnuit de lungi în timp ce vorbește, este posibil să folosească tehnologia de clonare a vocii bazată pe inteligență artificială.
Ciudat și pronunțat: orice tipare de vorbire robotizată sau un mod neobișnuit de pronunțat de a vorbi ar putea indica faptul că cineva folosește o combinație de clonare a vocii pentru a imita vocea unei persoane și un model de limbaj mare pentru a genera formularea exactă.
***
Tehnologia se va îmbunătăți doar
În prezent, nu există reguli consistente care să poată distinge întotdeauna conținutul generat de AI de conținutul uman autentic. Modelele AI capabile să genereze text, imagini, video și audio vor continua cu siguranță să se îmbunătățească și adesea pot produce rapid conținut care pare autentic, fără artefacte sau greșeli evidente.
„Inteligența artificială a manipulat și a fabricat rapid imagini, videoclipuri și sunet – vorbim de finalizat în 30 de secunde sau mai puțin”, spune Rachel Tobac, co-fondatorul SocialProof Security, o organizație de hacking cu pălărie albă
. „Acest lucru le face mai ușor pentru persoanele rău intenționate care caută să păcălească oamenii să întoarcă rapid dezinformarea generată de inteligență artificială, lovind rețelele sociale în câteva minute de la știri de ultimă oră.”
Deși este important să-ți perfecționezi abilitatea de a identifica informațiile false generate de inteligența artificială și să înveți să pui mai multe întrebări despre ceea ce citești, vezi și auzi, în cele din urmă acest lucru nu va fi suficient pentru a opri răul, iar responsabilitatea de a detecta falsurile nu poate cădea complet asupra indivizilor. Farid se numără printre cercetătorii care spun că autoritățile guvernamentale de reglementare trebuie să țină socoteală celor mai mari companii de tehnologie – împreună cu start-up-urile susținute de investitori importanți din Silicon Valley – care au dezvoltat multe dintre instrumentele care inundă internetul cu conținut fals generat de inteligență artificială. „Tehnologia nu este neutră”, spune Hany Farid de la Universitatea din California, Berkeley.
***
Sursă: newscientist.com
Credit foto: Shutterstock - hafakot
