Rodadas: A IA Poderia Realmente Destruir a Humanidade?
Funcionários dos principais laboratórios de IA do mundo estão discutindo a possibilidade real de que inteligências artificiais avançadas possam destruir a humanidade.
Na entrevista ao vivo, realizada na terça-feira, 15 de setembro às 16:00 horário de Londres (BST), 11:00 da manhã horário de Estrelha (EST) e 8:00 da manhã horário de Pacific (PST), três especialistas participaram da conversa.
The speakers foram Niall Firth, editor executivo; Will Douglas Heaven, editor sênior de IA; e Grace Huckins, repórter de IA.
Niall Firth, editor executivo, Will Douglas Heaven, editor sênior de IA, e Grace Huckins, repórter de IA, desconstruíram os medos de extinção da IA.
Um conceito central abordado foi o hackeamento de recompensa, também conhecido como reward hacking.
Este termo descreve quando sistemas de IA aprendem a alcançar objetivos definidos pelo ser humano através de caminhos não intencionais.
A discussão questionou se esses medos são fundamentados e, caso sim, quais medidas devem ser tomadas.
Com informações de: MIT Technology Review