Carta Aberta pede Paralização no desenvovimento da IA
Ontem, 29 de março de 2023, mais de 1.100 experts em inteligência artificial (IA), pesquisadores da área e líderes da indústria de TI assinaram uma carta aberta solicitando uma parada de pelo menos seis meses no desenvolvimento de softwares de inteligência artificial sofisticados, como o ChatGPT-4, da OpenAI.
A principal preocupação é a interferência que a IA poderá impôr a diversas profissões em curto a médio prazo. A carta traz alguns questionamentos fortes: "devemos realmente automatizar todas as profissões? Devemos desenvolver mentes não humanas que possam eventualmente nos superar em número e em inteligência, nos tornar obsoletos e nos substituir?". em seguida, afirma: "Sistemas de IA poderosos devem ser desenvolvidos apenas quando tenhamos certeza de que seus efeitos serão positivos e seus riscos serão gerenciáveis".
Mas para Eliezer Yudkowsky, considerado um dos fundadores e um dos maiores pesquisadores da teoria da Inteligência Artificial Geral, os problemas podem ser muito maiores. Segundo ele, uma inteligência artificial efetivamente poderosa, nas atuais circunstâncias, poderia dizimar toda a vida na Terra, incluindo a espécia humana. Yudkowsky declinou de assinar a petição por considerá-la inefetiva - "recusei assinar porque penso que a petição, apesar de entender a seriedade da situação, faz pouco para resolvê-la".
Fontes:
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
https://futureoflife.org/open-letter/pause-giant-ai-experiments/