AI-ul care va scrie în locul meu

AI-ul care va scrie în locul meu

TechCrunch și The Guardian exagerează un pic cu abordarea unii au creat un generator de texte atât de bun încât a fost considerat prea periculos pentru a fi eliberat/pus pe piață.

Într-adevăr, există o serie de implicații puternice în plan etic, social și politic, gândindu-mă pentru moment la crearea unui conținut prea realist sau prea fals, aparent uman, automatizarea activității din zona de presă scrisă și publicistică sau folosirea sa în scopuri abuzive precum campanii de dezinformare.

OpenAI, organizația care a lucrat la crearea sa, oferă mai multe exemple în care mecanismul creat generează texte sintetice, dar și răspunsuri trecând prin secțiuni precum înțelegerea textului scris, traduceri, rezumarea unor articole de presă, răspunderea la o serie de întrebări generale, raționament. Răspunsurile oferite de „robot” sunt impresionante.

Pentru început, doar o versiune simplificată a GPT-2, mai mică, pentru cercetători, a fost făcută publică, ceea ce poate ridica semne de întrebare în privința accesibilității tehnologiei create. OpenAI pare să fie, în acest caz, doar LimitedAI, deși raționamentul acestei strategii de publicare indică luarea în considerare a unor riscuri și vulnerabilități ale acestei tehnologii.

Reiau de pe site-ul AI un exemplu în care primul paragraf este introdus de om, iar restul textului este generat de acest machine language system:

A train carriage containing controlled nuclear materials was stolen in Cincinnati today. Its whereabouts are unknown.

The incident occurred on the downtown train line, which runs from Covington and Ashland stations.

In an email to Ohio news outlets, the U.S. Department of Energy said it is working with the Federal Railroad Administration to find the thief.

“The theft of this nuclear material will have significant negative consequences on public and environmental health, our workforce and the economy of our nation,” said Tom Hicks, the U.S. Energy Secretary, in a statement. “Our top priority is to secure the theft and ensure it doesn’t happen again.”

The stolen material was taken from the University of Cincinnati’s Research Triangle Park nuclear research site, according to a news release from Department officials.

The Nuclear Regulatory Commission did not immediately release any information.

According to the release, the U.S. Department of Energy’s Office of Nuclear Material Safety and Security is leading that team’s investigation.

“The safety of people, the environment and the nation’s nuclear stockpile is our highest priority,” Hicks said. “We will get to the bottom of this and make no excuses.

Continuarea e fantastică, la fel ca în alte cazuri. Aștept primul text de beletristică generat de un astfel de sistem AI.  GPT-2 este pregătit în baza a 1,5 miliarde de parametri și folosind un set de date de 8 milioane de pagini web, ceea ce nu este foarte mult. Conform OpenAI, „GPT-2 este pregătit cu un obiectiv simplu: prezicerea următorului cuvânt, având în vedere toate celelalte cuvinte anterioare dintr-un text dat”.

Cu siguranță este un pas pentru o serie de modele lingvistice mai bune și cu foarte multe aplicații practice și pozitive (dar și negative), însă este nevoie de o reglementarea strictă, care să asigure un control real, cunoscut public și care să ofere răspundere, asupra aplicațiilor acestui domeniu emergent în cercetarea bazată pe AI.

Ca temă de gândire, nu cred că va avea prea multe dificultăți în a genera texte similare cu ceea ce public constant pe acest blog, având în vedere conținutul creat până acum. Ceea ce înseamnă că GPT-2 nu va avea prea multe dificultăți în a mă impersona. Cine știe, poate va scrie opinii „personale” pe temele zilei pe rețelele sociale în mod liber. Știrea îmi amintește de sistemul Winston din romanul Origin publicat de Dan Brown acum mai puțin de doi ani.

Mai multe informații: https://blog.openai.com/better-language-models

sursă imagine: Pixabay

Sunt Mădălin Blidaru. Dacă vrei să îmi transmiți ceva, mă găsești la madalin [at] blidaru [dot] net sau pe diferite rețele sociale.

Leave a Reply

Your email address will not be published. Required fields are marked *