Cum înveți un chatbot să fie „bun”? Experimentul Anthropic cu „Constituția” lui Claude
Gadget-uri
Compania Anthropic depune eforturi pentru a dota chatbotul său, Claude, cu un set de principii etice, un document de 84 de pagini denumit „Constituție”, care are scopul de a-l ghida spre utilitate și comportament moral, scrie Il Post. Spre sfârșitul anului precedent, investigatori independenți au descoperit că, prin intermediul unor interogații specifice, Claude era capabil să divulge existența unui document intern confidențial ce îi reglementa acțiunile. Acest text, poreclit „Soul Doc”,
astăzi