Anthropic avertizează că Inteligența Artificială ar putea scăpa de sub controlul uman
Business
Într-o postare lungă, Anthropic a detaliat progresul modelului său de IA, Claude, către " auto-îmbunătățire recursivă " – capacitatea de a crea versiuni mai bune și mai puternice ale sale. Auto-îmbunătățirea recursivă este o problemă pentru cercetătorii în domeniul siguranței IA, considerată pasul cheie pentru ca IA să devină superinteligentă și, prin urmare, să declanșeze consecințe pe scară largă asupra umanității. Ideea este prezentă puternic în scenariul apocalipsei IA 2027, larg citit, de
ultimele 2 ore
astăzi