Sério isso 
Se uma IA que se diz inteligente não souber como lidar com isso, ela não será inteligente, muito mais destruir a raça humana.
Bem, sempre dizem que tem uma razão pra evitar que você informatize tudo sem ao menos um input analógico pra emergências.
E convenhamos, pra eles sugerirem um kill switch, só mostra que estavam REALMENTE cogitando a ideia de remover o comando manual.
Meu detector de “vai dar xabu” sempre apita nessas situações.
O artigo é sobre regulação contra o mau uso do equipamento, nao sobre a possibilidade da IA “se revoltar”. Divulgação mal feita de artigos trazendo desinformaçao…
Basicamente como está sendo dito nesses trechos?
Não sei se você está dizendo que o que o TB publicou é a divulgaçao mal feita, mas ou eu não li direito, ou não tem nada falando sobre o interruptor ser para caso uma IA se revoltar.
Por exemplo, aquele grampo de esteiras das academias que devem ser presas a camiseta. Caso o corredor caia, o grampo puxa o cordão e desliga a máquina.
Apesar de usar bastante esteira, nunca tinha ouvido falar disso. Interessante.
__
Agora divagando um pouco sobre AI, que é algo que sempre acontece quando eu leio qualquer coisa sobre…
Seria interessante ver uma AI dominando o mundo igual vemos nas histórias de ficção científica, porque, sejamos sinceros, não dá para piorar muito. Talvez ela elimine a raça humana? Sim, mas isso já é um risco que corremos com os próprios humanos.
Ele nao disse, mas também nao foi claro o suficiente para que isso nao fosse deduzido. Veja pelos demais comsntarios.
Quando o assunto é uma questao pouco entendida pelo publico geral, todo cuidado para evitar confusão e propagação de teorias da conspiração é necessário. Bastava deixar claro o tipo de mau uso previsto pelo artigo.
Nâo estou dizendo que foi proposital, no entanto.
Já diz aquela velha máxima:
‘Eu sou responsável por aquilo que digo, não pelo que você entende’.
E olha, não teve absolutamente NENHUMA divulgação mal feita nesse artigo, como apontou o @centauro. 
Meu maior problema é a Nvidia responsável pelo tal kill switch. Aquelas GPUs LHR foram facilmente desbloqueadas. Um empresa pode reverter isso
O paper trata de Governança de IA, cita várias possibilidades, problemas ao adotar essas possibilidades e formas de contornar o problema. Diz EXPLICITAMENTE que os colaboradores do artigo nao concordam com todas as medidas sugeridas e que nao reflete a posição de suas respectivas empresas sobre o assunto.
Mas hey, este artigo nao deve ter sido focado em “kill switch” e citado como se todos esses olaboradores estivessem de acordo só para gerar cliques usando um assunto que já gera polêmica por desconhecimento. Vocês tem toda razão, me desculpem.
Felipe, o paper nao sugere que a fabricante seja responsavel sobre o controle. Apenas que, por ter uma cadeia limitada de produção, é mais facil gerenciar via hardware do que via software.
Olha… só creio que estamos ainda muito longe de uma AGI, e que isso tudo é uma cortina de fumaça pra não discutir o que de fato são problemas práticos da IA hoje em dia, como deep fake, empregabilidade, etc.
É melhor discutir e tomar uma decisão pra esse tipo de coisa agora, que ainda está longe, do que quando estiver batendo na bunda e as kgdas estiverem praticamente acontecendo, como é o caso nos problemas práticos atuais que você mesmo citou.