Especialistas querem interruptor físico para desligar as IAs

Sério isso :unamused:

Se uma IA que se diz inteligente não souber como lidar com isso, ela não será inteligente, muito mais destruir a raça humana.

1 Like

Bem, sempre dizem que tem uma razão pra evitar que você informatize tudo sem ao menos um input analógico pra emergências.
E convenhamos, pra eles sugerirem um kill switch, só mostra que estavam REALMENTE cogitando a ideia de remover o comando manual.

Meu detector de “vai dar xabu” sempre apita nessas situações.

3 Likes

O artigo é sobre regulação contra o mau uso do equipamento, nao sobre a possibilidade da IA “se revoltar”. Divulgação mal feita de artigos trazendo desinformaçao…

Basicamente como está sendo dito nesses trechos?

Não sei se você está dizendo que o que o TB publicou é a divulgaçao mal feita, mas ou eu não li direito, ou não tem nada falando sobre o interruptor ser para caso uma IA se revoltar.

3 Likes

Por exemplo, aquele grampo de esteiras das academias que devem ser presas a camiseta. Caso o corredor caia, o grampo puxa o cordão e desliga a máquina.

Apesar de usar bastante esteira, nunca tinha ouvido falar disso. Interessante.
__

Agora divagando um pouco sobre AI, que é algo que sempre acontece quando eu leio qualquer coisa sobre…

Seria interessante ver uma AI dominando o mundo igual vemos nas histórias de ficção científica, porque, sejamos sinceros, não dá para piorar muito. Talvez ela elimine a raça humana? Sim, mas isso já é um risco que corremos com os próprios humanos.

4 Likes
3 Likes

Ele nao disse, mas também nao foi claro o suficiente para que isso nao fosse deduzido. Veja pelos demais comsntarios.

Quando o assunto é uma questao pouco entendida pelo publico geral, todo cuidado para evitar confusão e propagação de teorias da conspiração é necessário. Bastava deixar claro o tipo de mau uso previsto pelo artigo.

Nâo estou dizendo que foi proposital, no entanto.

Já diz aquela velha máxima:

‘Eu sou responsável por aquilo que digo, não pelo que você entende’.

E olha, não teve absolutamente NENHUMA divulgação mal feita nesse artigo, como apontou o @centauro. :thinking:

4 Likes

Meu maior problema é a Nvidia responsável pelo tal kill switch. Aquelas GPUs LHR foram facilmente desbloqueadas. Um empresa pode reverter isso

2 Likes

O paper trata de Governança de IA, cita várias possibilidades, problemas ao adotar essas possibilidades e formas de contornar o problema. Diz EXPLICITAMENTE que os colaboradores do artigo nao concordam com todas as medidas sugeridas e que nao reflete a posição de suas respectivas empresas sobre o assunto.

Mas hey, este artigo nao deve ter sido focado em “kill switch” e citado como se todos esses olaboradores estivessem de acordo só para gerar cliques usando um assunto que já gera polêmica por desconhecimento. Vocês tem toda razão, me desculpem.

Felipe, o paper nao sugere que a fabricante seja responsavel sobre o controle. Apenas que, por ter uma cadeia limitada de produção, é mais facil gerenciar via hardware do que via software.

Olha… só creio que estamos ainda muito longe de uma AGI, e que isso tudo é uma cortina de fumaça pra não discutir o que de fato são problemas práticos da IA hoje em dia, como deep fake, empregabilidade, etc.

É melhor discutir e tomar uma decisão pra esse tipo de coisa agora, que ainda está longe, do que quando estiver batendo na bunda e as kgdas estiverem praticamente acontecendo, como é o caso nos problemas práticos atuais que você mesmo citou.