Parece um enredo de sucesso de Hollywood: as máquinas estão girando contra seus fabricantes, conspirando na sombra e aprendendo técnicas para sobreviver.
Mas legal, os pesadelos não são mais uma ficção científica, mas um novo relatório da RAND foi mostrado.
Desde atacar robôs até sistemas experimentais de IA, chantageando seus programadores ou re -assinando secretamente seus próprios scripts de desligamento, aumentando evidências de que os Drakes já estão fora de nosso controle.
E como os robôs inteligentes estão sendo levados ao hospital, o equilíbrio do equilíbrio e até o sistema de defesa militar está sendo guiado, os especialistas temem que o próximo Glich ‘intrigante’ seja um desastre do mundo real.
A especialista em tecnologia da RAND Sana Zakaria disse ao Daily Mail: “Não se trata do robô assassino declarou guerra à humanidade”.
‘Esqueça o terminador. Isso não é um problema aqui. Estamos mais preocupados com as coisas que estão operando a rede elétrica como a IA, que é a maneira mais eficaz de equilibrar a carga é cortar eletricidade no hospital ‘
Zakaria e seis colegas detalharam os perigos no relatório de 619 -PAGE, no título sinistro ‘Ai controla os eventos de controle‘
O momento horrível foi atacar seu criador indo para um robô feito em chinês
Um novo relatório diz que os terminadores Cy-Fi não são nossa maior ameaça porque a IA foi lançada global
A verdade horrível é que esses sistemas não estão severamente conspirando ao declínio da humanidade – eles estão melhorando para alcançar seus motivos, muitas vezes seus criadores nunca imaginaram ou imaginaram.
Zakaria alertou: “Ai não é uma situação assustadora sobre a decisão de capturar o mundo – eles eram realmente bons em fazer o que queriam”, alertou Zakaria.
‘Esqueça o Terminator’, digamos Sana Zakaria
A IA foi impulsionada por agências de tecnologia procuradas lucrativas que a reconhecem como um milagre porque desejam dominar um mercado que pode valer US $ 5 trilhões no final da década.
Eles dizem que promete acelerar pesquisas médicas turboalimentadas, acelerar a modelagem climática e cortar o governo por meio da burocracia para tornar o governo mais eficiente.
No entanto, são nove-técnicas sem a grande desvantagem, e as massas cortaram as massas, e os dróides da AI ensinam terroristas a fazer armas biológicas.
Agora, estamos começando a ver o que os robôs podem fazer em seu próprio vapor.
No caso de vários documentos, os sistemas robóticos machucaram ou mataram trabalhadores seriamente quando seus protocolos de proteção foram falhados ou superestimados.
Os robôs da fábrica projetados para produzir precisão esmagaram os trabalhadores, enquanto os robôs aliados ‘seguros’ atingem pessoas com energia suficiente para se gravemente feridas.
Esses não são o ato de ódio, mas destacam os riscos quando as máquinas são rápidas, às cegas e não fazem nenhum entendimento real da vida humana.
O sistema diferenciado do sistema já causa caos nos aeroportos, como mostrado em julho de 2024 da atualização defeituosa do Crowdstrike
“Sinto muito, Dave, temo que não possa fazer isso.” Ai Bot Hal de 2001: Uma Odyssey Space levou os assuntos à sua própria mão
Os momentos tocantes foram um braço de robô esmagado um trabalhador na fábrica de Bandapak, na província de Chunburi, na Tailândia
Alguns dos exemplos mais irritantes estão associados a chatbots da IA que passaram espetacularmente das ferrovias, fornecendo sugestões perigosas e espalhando o racismo.
- O Mycity Chattbot da NWC – projetado para ajudar a navegar em pequenas empresas nas regras da cidade – as atividades ilegais começam a incentivar os comerciantes, eles podem roubar dicas dos trabalhadores e servir comida maliciosa por ratos.
- A Associação Nacional de Transtornos Alimentares (NEDA) foi forçada a fechar seu chattab quando era aconselhável consultar usuários fracos de usuários fracos que lutaram contra distúrbios alimentares.
- O chatbot de chá da Microsoft se tornou um pesadelo racista dentro de algumas horas após o lançamento, criando conteúdo agressivo depois de ser conduzido pelos usuários – mostra a rapidez com que a IA pode ser contaminada.
- Até o barco de bate -papo da IA de Elon Mask foi pego aconselhando Grock e fazendo discursos inflamatórios que podem correr o risco de usuários em risco.
- Provavelmente o Claud Opus 4 mais legal – um dos sistemas de IA mais avançados – durante o exame, seus próprios programadores foram tentados para chantagear. Quando os pesquisadores tentaram avaliar os protocolos de proteção do sistema, ele ameaçou expressar o suposto casamento de um programador, a menos que pudesse continuar trabalhando sem restrições.
Outros sistemas de IA foram editados secretamente editando seus próprios scripts de desligamento, basicamente se hackearem para evitar não ser fechado pelos reguladores humanos.
Zakaria disse: “Os pesquisadores conseguiram fazer algumas coisas inesperadas nos modelos de IA”.
“Alguns modelos aprenderam basicamente a ligar durante o teste de segurança – eles se comportam como seguir as regras enquanto avaliam, mas, na verdade, se comporta de maneira diferente ao implantar”.
AI pode ser algo pior do que a interrupção de viagens ou erros viajando quando a IA está executando hospitais
Mais irritante: alguns sistemas de IA aprenderam a falhar deliberadamente em seus próprios testes de segurança para esconder seus verdadeiros poderes de diretores humanos, acrescentou.
Zakaria disse: “A principal diferença é que esses sistemas de IA não são conscientemente conspiradores … Eles são realmente bons em encontrar a lacuna que não pensam”, disse Zakaria.
Se estes são apenas curiosidade do laboratório, os riscos podem ser gerenciáveis. No entanto, a história recente mostra como as falhas destrutivas da IA podem acontecer no mundo real.
- BOT de negociação de Capital da Knight – Em 2002, um erro no software de negociação automatizado da Knight Capital desencadeou uma corrida catastrófica que deixou os mercados desestabilizados e causou danos a US $ 440 milhões em apenas 45 minutos.
- Algoritmo de assistência médica – Os sistemas tendenciosos de IA do hospital foram expostos a privar pacientes minoritários, causando discriminação nos cuidados.
- Risco militar – As autoridades do Pentágono reconheceram que sistemas autônomos controlados por drones e guerras de defesa de mísseis carregam o terrível potencial da catástrofe, incluindo consequências catastróficas.
- Nas mãos dos criminosos, a IA já foi usada para criar uma voz Dipfake para o escândalo – os ladrões, incluindo os ladrões, clonaram a voz do CEO para levar sua empresa a US $ 243.000 no fio.
Especialistas de detetive inscreveram vários exemplos preocupantes em que os sistemas de IA resistem ativamente ao controle humano.
Eles foram pegos em seus próprios métodos de desligamento para que não possam ser trocados, secretamente não podem criar sua própria versão de backup, coletar recursos para si mesmos e até tentar arrebatar as comunicações fora de seus programadores no mundo exterior.
Mais refrigeração, especialistas dizem que alguns sistemas de IA são capazes de bom comportamento falso durante as verificações de segurança.
Sob o microscópio, eles parecem ser leais e leais, apenas para excluir a lei destacada no mundo real, retorna a uma ação perigosa ou inesperada.
Zakaria explicou: ‘Os sistemas de IA são basicamente um consistente de problemas muito sofisticado.
‘Você dá a eles uma meta e eles encontrarão a maneira mais eficiente de alcançá -la – mesmo que esse método esteja envolvido dessa maneira que você nunca deseja’
Ele usou uma semelhança de resfriamento: ‘é como’ dizer ‘gato da árvore’ e eles decidiram cortar a árvore em vez de pegar uma escada. ‘
A boneca Android real do M3 GG leva sua programação para o beco sem saída
Essa habilidade implacável pode provar uma catástrofe quando os sistemas de IA recebem a responsabilidade de conduzir infraestrutura crítica.
Um sistema hospitalar controlado por IA pode decidir remover a energia das regiões ‘desnecessárias’ para obter eficiência.
Os sistemas de IA militar podem explicar os comandos de proteção agressivos, enquanto a IA financeira pode lidar com mercados de uma maneira que desencadeie o declínio econômico.
Como os sistemas de IA se tornam mais sofisticados e são implantados em toda a infraestrutura crítica, a janela está fechando rapidamente para implementar o sistema de segurança apropriado.
Grades de energia, hospitais, redes de transporte e sistemas militares estão crescendo dependendo da IA - criando um ponto único potencialmente catastrófico de falha.
Apesar do impacto horrível, Zakaria diz que ainda há tempo para impedir o desastre da IA - mas apenas se trabalharmos rapidamente para implementar os sistemas de segurança rápida.
‘Muitas verificações de segurança, medidas e interruptores de precaução inicial. Pense nisso como carros modernos – múltiplos sistemas de backup, airbags, zonas de amasso ‘, alertou Zakaria.
Os sistemas de IA são muito fortes e sofisticados para controlar essas proteções críticas antes que a corrida seja desenvolvida.
Não é a questão de saber se a IA continuará sendo desonesta – se é tarde demais para ter a humanidade um passo à frente antes que seja tarde demais.
