Sponzorizat de newsflash.ro
Sunt tot mai mulți oameni care cred că omenirea ar putea fi distrusă de tehnologii AI pe care tot noi, oamenii, le creăm. În multe companii care dezvoltă soft-uri de AI generativ există un conflict între cei care spun că ar trebui să avansăm cu grijă și cei care spun că trebuie să lansăm cât mai repede ce avem mai bun. Ce este „altruismul eficient”? De ce cred așa de mulți oameni în această idee?
Inteligenta artificialaFoto: Shutterstock
Mișcarea numită „effective altruism” (Altruisme efficace, în franceză) a apărut în filozofie, dar după 2014 s-a răspândit în domeniul Inteligenței Artificiale.
Susținătorii mișcării „effective altruism” spun că pot construi sisteme de AI mult mai sigure, fiindcă sunt dispuși să investească în ceea ce ei numesc „alignement”, ceea ce înseamnă că angajații pot controla 100% tehnologia pe care o dezvoltă și sunt 100% siguri că aceste tehnologii se aliniază cu un set de valori umane.
Oamenii care își exprimau fricile cum că AI-ul ne va „șterge” de pe fața Pământului sunt numiți „doomers” și erau foarte puțini, dar în ultimii ani au marșat către „mainstream”, sunt tot mai muți, au inițiat strângeri de semnături și au solicitat autorităților să ia măsuri și să pună reguli clare în dezvoltarea AI.
În „telenovela” de la OpenAI, mișcarea „effective altruism” a jucat un rol important: doi dintre membrii board-ului care l-au demis pe Sam Altman aveau legături cu grupări de „altruiști”, iar Ilya Sutskever, care ocupa funcția de „chief scientist” la OpenAI, susține ideile mișcării și inițial s-a arătat a fi opozantul nr 1 al lui Altman.
Mai mult, OpenAI, compania care în 2022 a lansat ChatGPT, a fost creată în 2015 pe baza ideilor altruismului efectiv și nu credea nimeni că OpenAI va ajunge să fie evaluată la 80 miliarde dolari. Nimeni nu ar fi bănuit atunci că OpenAI va crea și lansa unul dintre cele mai populare soft-uri.
Unul dintre cei mai mari susținători ai mișcării este „mogulul” criptomonedelor, căzut în dizgrație, Sam Bankman-Fried (a fost condamnat pentru fraudă).
Ce este „altruismul eficace”
Mișcarea effective altruism abordează pericolele asociate cu dezvoltarea inteligenței artificiale (IA). Perspectiva „effective altruism” propune o abordare rațională a gestionării riscurilor potențiale.
Mișcarea consideră că dezvoltarea IA cu capacitatea de a depăși inteligența umană ar putea prezenta riscuri existențiale. Astfel, mișcarea încurajează ideea ca…
Sponzorizat de newsflash.ro
Citeste continuarea pe economie.hotnews.ro