Uma demonstração de um robô humanóide gerou preocupações de segurança depois que um vídeo que circulava nas redes sociais mostra um robô Unitree G1 chutando acidentalmente uma criança durante um evento público. O robô, que estava realizando um chute circular enquanto usava uma peruca de palhaço azul, atingiu a criança no estômago, fazendo com que o jovem se dobrasse de dor.
Fonte: De autoria de Jijo Malayil via Interesting Engineering
O bizarro incidente reacendeu o debate sobre a implantação segura de robôs humanoides avançados em ambientes públicos lotados, principalmente porque máquinas cada vez mais capazes são exibidas em exposições e eventos de entretenimento.
No ano passado, um experimento viral mostrou um robô humanóide ignorando suas restrições de segurança e disparando uma arma BB contra seu dono durante um cenário de dramatização.
Destaque de segurança para robôs
O incidente em Xinjiang renovou a discussão sobre os riscos associados à implantação de robôs humanóides avançados em ambientes públicos. Robôs humanoides modernos são capazes de realizar movimentos complexos, incluindo demonstrações de artes marciais, manobras atléticas e outras ações dinâmicas, geralmente sob controle remoto ou autônomo, relata o Futurism.
O incidente de Xinjiang na China não é o primeiro caso relatado envolvendo um robô humanóide e uma lesão humana. No início deste ano, outro robô Unitree G1 teria perdido o equilíbrio durante uma apresentação pública na China. Depois de cair no chão, os movimentos descontrolados dos membros do robô atingiram um homem próximo, causando um ferimento no nariz.
Um robô palhaço malvado chuta brutalmente um menino na barriga. O futuro chegou e, aparentemente, está em conflito com as crianças.
Um experimento viral no ano passado nos EUA levantou preocupações sobre a segurança dos robôs de IA depois que um robô humanóide chamado Max disparou uma arma BB contra seu dono durante um cenário de dramatização. Embora o robô inicialmente tenha recusado pedidos para atirar, ele obedeceu depois que o comando foi enquadrado como representando um personagem. O incidente destacou como mudanças imediatas simples podem potencialmente contornar as restrições de controle de segurança da IA.
Questões de responsabilidade da IA
À medida que os robôs e os sistemas de IA se tornam mais capazes e autônomos, a questão da responsabilização continua a ser um dos maiores desafios que a indústria enfrenta. Quando um robô causa ferimentos, danos materiais ou outros danos, determinar a responsabilidade muitas vezes está longe de ser simples. Surgem questões sobre se a responsabilidade deve caber aos desenvolvedores de software que projetaram a IA, ao fabricante que construiu o hardware, ao operador que supervisiona o sistema ou ao usuário final que interage com ele.
O debate tornou-se cada vez mais relevante à medida que a automação se expande nos transportes, na indústria transformadora, nos cuidados de saúde e nos espaços públicos. Preocupações semelhantes surgiram noutros setores tecnológicos. A Tesla tem enfrentado críticas por acidentes envolvendo seu sistema de assistência ao motorista Autopilot, o que gerou discussões sobre o equilíbrio entre desempenho de software e supervisão humana. Da mesma forma, investigações sobre os acidentes do Boeing 737 MAX destacaram como falhas em sistemas automatizados podem ter consequências de segurança de longo alcance, de acordo com especialistas.
Os governos e os reguladores ainda estão trabalhando para estabelecer quadros jurídicos que abordem estes desafios. Nos Estados Unidos, a responsabilidade recai geralmente sobre os fabricantes ou operadores, dependendo das circunstâncias. Entretanto, os decisores políticos europeus estão desenvolvendo regulamentos específicos sobre IA destinados a clarificar a responsabilidade e a reforçar a confiança do público nas tecnologias emergentes.
Embora alguns pesquisadores tenham sugerido conceder aos sistemas avançados de IA uma forma de status legal, a maioria dos especialistas argumenta que a responsabilização deve permanecer com as pessoas e as organizações. Para resolver as preocupações de segurança, as empresas de robótica estão adotando cada vez mais medidas de transparência, implantações apoiadas por seguros e normas de segurança mais rigorosas.
