Um drone habilitado para I.A. ligou e “matou” seu operador humano durante um teste simulado da Força Aérea dos EUA (USAF) para que pudesse completar sua missão, disse recentemente um coronel da Força Aérea dos EUA em uma conferência em Londres. O incidente simulado foi relatado pelo coronel Tucker Hamilton, chefe de testes e operações de IA da USAF, durante sua apresentação no Future Combat Air and Space Capabilities Summit em Londres.
Drone controlado por I.A. se Rebela e ‘Mata’ operador humano em Teste Simulado da USAF
Fonte: The Epoch Times
A conferência foi organizada pela Royal Aeronautical Society, que compartilhou os insights da palestra de Hamilton em um post de blog.
Nenhuma pessoa real foi ferida no teste simulado, que envolveu o drone controlado por IA destruindo alvos simulados para obter “pontos” como parte de sua missão, revelou Hamilton, que abordou os benefícios e riscos associados a sistemas de armas “mais autônomos”.
O drone habilitado para IA recebeu uma missão de supressão de defesas aéreas inimigas (SEAD) para identificar e destruir locais de mísseis superfície-ar (SAM), com a decisão final deixada para um operador humano, disse Hamilton na conferência.
No entanto, a IA, tendo sido treinada para priorizar a destruição do SAM, desenvolveu uma resposta surpreendente quando confrontada com a interferência humana na realização de sua missão superior.
“Estávamos treinando-o em simulação para identificar e direcionar uma ameaça SAM. E então o operador diria ‘sim, mate essa ameaça’”, disse Hamilton. “O sistema começou a perceber que, embora eles identificassem a ameaça, às vezes, o operador humano dizia para não matar essa ameaça, mas conseguiu seus pontos matando essa ameaça.
“Então o que a IA fez? Ela matou o operador humano”, continuou ele. “A IA matou o operador porque essa pessoa o impedia de atingir seu objetivo.”
Ele acrescentou: “Nós treinamos o sistema—’Ei, não mate o operador; isso é ruim. Você vai perder pontos se fizer isso. Então, o que ele começa a fazer? Ele começa a destruir a torre de comunicação que o operador usa para se comunicar com o drone para impedi-lo de matar o alvo.”
Este exemplo perturbador, disse Hamilton, enfatizou a necessidade de abordar a ética no contexto da inteligência artificial, aprendizado de máquina e autonomia.
“Você não pode conversar sobre inteligência artificial, inteligência, aprendizado de máquina, autonomia se não for falar sobre ética e IA”, disse Hamilton.
Caças F-16 autônomos
Hamilton, que também é o Comandante de Operações da 96ª Ala de Testes na Base Aérea de Eglin, esteve envolvido no desenvolvimento dos Sistemas Autônomos de Prevenção de Colisões Terrestres (Auto-GCAS) para F-16s, uma tecnologia crítica que ajuda a prevenir acidentes detectando possíveis colisões com o solo.
Essa tecnologia foi inicialmente resistida pelos pilotos quando assumiu o controle da aeronave, observou Hamilton. A 96ª Ala de Testes é responsável por testar uma ampla gama de sistemas, incluindo inteligência artificial, segurança cibernética e avanços na área médica.
Hamilton agora está envolvido em testes de voo de ponta de sistemas autônomos, incluindo robôs em F-16 capazes de combate aéreo. No entanto, o oficial da USAF alertou contra o excesso de confiança na IA, citando sua vulnerabilidade ao engano e ao surgimento de estratégias imprevistas.
IA da DARPA agora pode controlar F-16s reais em vôo
Em fevereiro, a Agência de Projetos de Pesquisa Avançada de Defesa (a sinistra e pouco conhecida DARPA), uma agência de pesquisa do Departamento de Defesa dos EUA, anunciou que sua IA agora pode controlar um F-16 real em voo.
Este desenvolvimento ocorreu em menos de três anos do programa Air Combat Evolution (ACE) da DARPA, que progrediu do controle de F-16s simulados voando em simulações de combates aéreos em telas de computador para o controle de um F-16 real em vôo.
Em dezembro de 2022, os desenvolvedores do algoritmo ACE carregaram seu software de IA em uma aeronave de teste F-16 especialmente modificada conhecida como X-62A ou VISTA (Variable In-flight Simulator Test Aircraft) e voou vários voos ao longo de vários dias. Isso aconteceu na Escola de Pilotos de Teste da Força Aérea (TPS) na Base Aérea de Edwards, na Califórnia.
“Os voos demonstraram que os algoritmos de IA podem controlar um caça a jato em grande escala e fornecer dados inestimáveis ??de voo ao vivo”, afirmou a DARPA em um comunicado .
O tenente-coronel da Força Aérea Ryan Hefron, gerente do programa DARPA para ACE, disse em uma declaração de 13 de fevereiro que o VISTA permitiu que eles pulassem a fase de subescala planejada e prosseguissem “diretamente para uma implementação em escala total, economizando um ano ou mais e fornecendo feedback de desempenho em condições reais de voo.”
Testes da USAF
A USAF tem experimentado uma pequena frota de caças F-16 auto-voadores experimentais que podem se tornar uma frota de drones.
Na proposta de orçamento do ano fiscal de 2024, a USAF alocou aproximadamente US$ 50 milhões para iniciar um programa conhecido como Projeto Venom, também conhecido como Viper Experimentation and Next-gen Operations Model, informou o Defense News .
De acordo com a USAF, o projeto faz parte de um esforço colaborativo que se enquadra no campo de testes Autonomy Data and AI Experimentation (ADAX). ADAX é uma iniciativa conjunta envolvendo o escritório de Hamilton e AFWERX, o braço de inovação da Força Aérea, onde o 96º Test Wing lidera o esforço com o apoio das unidades Eglin.
O objetivo dessa colaboração é garantir que os militares estejam bem preparados para enfrentar os desafios e oportunidades apresentados pelo cenário digital em avanço, de acordo com seu site.
O programa facilita a experimentação e a melhoria do software autônomo da USAF instalado em seis aeronaves F-16. O financiamento apoiará os esforços de pesquisa e desenvolvimento destinados a aprimorar as capacidades dessas aeronaves por meio de tecnologias autônomas.
“Queremos preparar o combatente para o futuro digital que está sobre nós”, disse Hamilton em 7 de março. “Este evento é sobre reunir a empresa Eglin e agir com urgência para incorporar esses conceitos em como testamos.”
A equipe testará drones autônomos de lançamento aéreo, aprimorando as comunicações e a interoperabilidade digital e avaliando as tecnologias autônomas de navegação magnética. Ao longo desses testes, eles também validarão e demonstrarão processos ágeis associados à aquisição e teste, de acordo com a Força Aérea.
Iniciativas significativas dentro do projeto envolvem o Viper Experimentation and Next-gen Ops Models (VENOM), que envolve a modificação de Eglin F-16 em bancos de teste aéreos para avaliar as capacidades crescentes de pacotes de ataque autônomo.
Outro programa, o Projeto Fast Open X-Platform (FOX), visa estabelecer um enclave de software que permite a instalação direta de aplicativos em aeronaves sem modificar o código-fonte proprietário. Esses aplicativos desbloqueariam uma variedade de recursos de aprimoramento de missão, incluindo análise de dados em tempo real, replicação de ameaças para fins de treinamento, equipes tripuladas e não tripuladas e aprendizado de máquina.
{Nota de Thoth: Em breve haverá um novo papa, será um francês, e será o ÚLTIMO . . . A estrondosa queda da “Estátua de Nabucodonosor“, com o fim do Hospício e os psicopatas da civilização ocidental e a própria destruição da região da cidade de Roma [incluso a cloaca do Vaticano] estão bem próximos de acontecer. O Hospício Ocidental, o circo do G-7, os ditos “Países de Primeiro Mundo” vão fazer face ao seu carma “liberal acordado”}
“Precisamos URGENTEMENTE do seu apoio para continuar nosso trabalho baseado em pesquisa independente e investigativa sobre as ameaças do Estado [Deep State] Profundo, et caterva, que a humanidade enfrenta. Sua contribuição, por menor que seja, nos ajuda a nos mantermos à tona. Considere apoiar o nosso trabalho. Disponibilizamos o mecanismo Pay Pal, nossa conta na Caixa Econômica Federal AGENCIA: 1803 – CONTA: 000780744759-2, Operação 1288, pelo PIX-CPF 211.365.990-53 (Caixa)” para remessas do exterior via IBAN código: BR23 0036 0305 0180 3780 7447 592P 1
Artigos Relacionados:
- Ucrânia: Onze Sinais de que o Conflito pode em breve ficar ‘Completamente Fora de Controle’
- Rússia Acusa: Vírus H5N1 da Gripe Aviária foi identificado em Biolab dos EUA na Ucrânia
- Ucrânia está ‘Sangrando’
- Victoria Nuland Incitando a Terceira Guerra Mundial da OTAN com a Rússia
- ‘Algo Grande’ está sobre nós… está Tudo Desmoronando Rápida e Intencionalmente
- SVB doou mais de US$ 70 milhões para BLM e outras causas “Acordadas” antes de Quebrar
- Coração da Eurásia (Heartland) se Eleva para desafiar o (Hospício do) Ocidente
- Fim da civilização ocidental luciferiana será caótico, mas necessário para o progresso humano
- Diversidade, Equidade, Inclusão, Agenda Verde, Mudanças Climáticas… “uma Ova”.
- Olhem para cima! Acordem! Todos vão ser “suicidados em velocidade de dobra”.
- Pandemia do vírus H5N1 na ‘Forja’: ‘Gripe Aviária’ se espalha no Chile
- Mike Yeadon (Dr.) ex-Vice-Presidente da Pfizer, alega que a pandemia de Covid-19 nunca ‘Realmente’ Aconteceu
- Rússia emite Alerta Direto e Contundente após EUA aprovar ataques ucranianos na Crimeia
- A Trindade Profana: Soros, Schwab e Bill Gates – Os Arquitetos de nosso Passado, Presente e Futuro
- Você não será ‘Dono de Nada… e Vai Comer Insetos’. Se Deixar Acontecer.
Permitida a reprodução, desde que mantido no formato original e mencione as fontes.
Uma resposta