OpenAI ka zbuluar një mjet për klonimin e zërave të njerëzve, por ka zgjedhur të mos e bëjë të aksesueshëm për të gjithë pasi mund të keqpërdoret në procesin e zgjedhjeve në botë.
“Voice Engine” mund të përsërisë zërin e një personi bazuar në një mostër audio prej 15 sekondash.
Por krijuesi i ChatGPT ka një qasje të kujdesshme ndaj teknologjisë dhe shpreson që të vendosen disa rregulla strikte sa i vjen përdorimit të mjeteve të reja.
“Ne po angazhohemi me partnerë amerikanë dhe ndërkombëtarë nga qeveria, media, arsimi, shoqëria civile dhe më gjerë për t’u siguruar që gjithë procesi ynë do shkojë mirë. Duam ta testojmë teknologjinë e më pas të bëjmë lançimin”, ka njoftuar OpenAi në faqen zyrtare.
Kompania shtoi se teknologjia duhet të përdoret vetëm me masa që sigurojnë se “folësi origjinal po e përdor në shërbim të tij zërin” dhe të parandalohet abuzimi.
Keqpërdorimi i AI është shfaqur si një shqetësim i madh përpara zgjedhjeve të këtij viti në vendet që përfaqësojnë rreth gjysmën e popullsisë së botës. Votuesit në më shumë se 80 vende, përfshirë Meksikën, Afrikën e Jugut dhe Shtetet e Bashkuara do të shkojnë në qendrat e votimit në vitin 2024. Ky vit është cilësuar si viti më i madh zgjedhor në histori.
Përshembull në muajin Shkurt, ish-kryeministri i burgosur i Pakistanit, Imran Khan, përdori inteligjencën arfitificiale në fjalimet e tij për t’u bërë thirrje mbështetësve në prag të zgjedhjeve të përgjithshme.
Në janar, Dean Phillips në SHBA bëri thirrje në emër të presidentit Joe Biden duke u kërkuar votuesve të mos paraqiten në qendrat e votimit në New Hampshire.
Këto janë dy raste që tregojnë se AI mund të përdoret edhe për qëllime shumë dashakeqëse.
Nëse “Voice Engine” bëhet publik, Open AI ka deklaruar se do të zbatojnë të gjitha masat e sigurisë, për të gjurmuar origjinën e çdo audioje të gjeneruar si dhe mënyrën si do përdoret.
We're sharing our learnings from a small-scale preview of Voice Engine, a model which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. https://t.co/yLsfGaVtrZ
— OpenAI (@OpenAI) March 29, 2024
