Este artigo é republicado da The Conversation sob uma licença Creative Commons. Leia o artigo original.
Aproximadamente 185.000 pessoas morreram em acidentes de aviação civil desde o advento do voo motorizado há mais de um século. No entanto, nos últimos cinco anos entre as companhias aéreas dos EUA, o risco de morrer era quase zero. De fato, você tem uma chance muito melhor de ganhar a maioria das loterias do que de morrer como passageiro de uma companhia aérea americana.
Como o voo se tornou tão seguro? E podemos aplicar as lições de segurança bem aprendidas da aviação à inteligência artificial?
Quando a humanidade introduz uma nova tecnologia que muda o paradigma e essa tecnologia é rapidamente adotada globalmente, as consequências futuras são desconhecidas e frequentemente temidas coletivamente. A introdução do voo motorizado em 1903 pelos irmãos Wright não foi uma exceção. Houve muitas objeções a essa nova tecnologia, incluindo preocupações religiosas, políticas e técnicas.
Não demorou muito após a introdução do voo motorizado que o primeiro acidente de avião ocorreu – e quando digo não demorou muito, quero dizer no mesmo dia. A primeira pessoa a morrer em um acidente aéreo foi morta cinco anos depois, em 1908. Desde então, houve mais de 89.000 acidentes de avião globalmente.
Sou um pesquisador que estuda a segurança de viagens aéreas e vejo como a indústria de IA de hoje se assemelha aos primeiros anos da aviação – e decididamente menos seguros.
De estudar acidentes a prever acidentes
Embora trágico, cada acidente e cada fatalidade representou um momento de reflexão e aprendizado. Os investigadores de acidentes tentaram recriar cada acidente e identificar os precursores e causas raízes dos acidentes. Uma vez que os investigadores identificaram o que levou a cada acidente, os fabricantes e operadores de aeronaves implementaram medidas de segurança na esperança de prevenir acidentes adicionais.
Por exemplo, se um piloto na era anterior do voo esquecesse de baixar o trem de pouso antes de pousar, um acidente ao pousar era o resultado provável. Então, a indústria decidiu instalar sistemas de aviso que alertariam os pilotos sobre o estado inseguro do trem de pouso – uma lição aprendida só após os acidentes. Esse processo reativo, embora necessário, tem um alto preço a pagar para aprender a melhorar a segurança.
Ao longo do século XX, o mundo da aviação organizou e padronizou suas operações, procedimentos e processos. Em 1938, o presidente Franklin Roosevelt assinou a Lei de Aeronáutica Civil, que estabeleceu a Autoridade de Aeronáutica Civil. Este precursor da Administração Federal de Aviação incluía um Conselho de Segurança Aérea.
O paradigma de segurança totalmente reativo mudou com o tempo para proativo e, eventualmente, preditivo. Em 1997, um grupo de organizações de aviação da indústria, trabalho e governo formou um grupo chamado Commercial Aviation Safety Team. Eles começaram a olhar para os dados e tentaram encontrar tendências e analisar relatórios de usuários para identificar riscos e perigos antes que se tornassem acidentes completos.
O grupo, que inclui a FAA e a NASA, decidiu desde o início que não haveria competição entre as companhias aéreas quando se tratasse de segurança. A indústria compartilharia abertamente os dados de segurança. Quando foi a última vez que você viu uma campanha publicitária de uma companhia aérea afirmando “nossa companhia é mais segura do que a sua”?
É tudo sobre dados
O Commercial Aviation Safety Team ajudou a indústria a passar de reativa para preditiva ao adotar uma abordagem sistemática e orientada por dados para lidar com problemas de segurança. Ele gerou esses dados usando relatórios de pessoas e dados de aeronaves.
Todos os dias, milhões de voos ocorrem em todo o mundo, e em cada um desses voos, milhares de pontos de dados são registrados. Profissionais de segurança da aviação agora usam Gravadores de Dados de Voo – há muito usados para investigar acidentes após os fatos – para analisar dados de cada voo. Ao examinar de perto todos esses dados, analistas de segurança podem detectar eventos e tendências emergentes e problemáticas. Por exemplo, ao analisar os dados, um cientista de segurança treinado pode perceber se determinadas aproximações de aeronaves às pistas estão se tornando mais arriscadas devido a fatores como velocidade excessiva e má alinhamento – antes que um acidente de pouso ocorra.
Gravadores de voz e dados de voo são bem conhecidos de investigações de acidentes, mas os dados de voos ordinários são inestimáveis para prevenir acidentes.
Para aumentar ainda mais as capacidades proativas e preditivas, qualquer um que opere dentro do sistema de aviação pode enviar relatórios de segurança anônimos e não punitivos. Sem garantias de anonimato, as pessoas poderiam hesitar em relatar problemas, e a indústria da aviação perderia informações cruciais relacionadas à segurança.
Todos esses dados são armazenados, agregados e analisados por cientistas de segurança, que observam o sistema geral e tentam encontrar precursores de acidentes antes que eles levem a acidentes. O risco de morrer como passageiro a bordo de uma companhia aérea americana agora é de menos de 1 em 98 milhões. É mais provável que você morra em seu trajeto até o aeroporto do que em um acidente aéreo. Agora, mais de 100 anos após o advento do voo motorizado, a indústria da aviação – após aprender lições difíceis – se tornou extremamente segura.
Um modelo para IA
A IA está rapidamente permeando muitos aspectos da vida, desde carros autônomos até ações na justiça criminal e decisões de contratação e empréstimos. A tecnologia está longe de ser infalível, no entanto, e os erros atribuíveis à IA tiveram consequências que mudam a vida – e em alguns casos, até mesmo consequências de vida ou morte.
Quase todas as empresas de IA estão tentando implementar algumas medidas de segurança. Mas elas parecem estar fazendo esses esforços individualmente, assim como os primeiros atores no campo da aviação fizeram. E esses esforços são amplamente reativos, esperando que a IA cometa um erro e, em seguida, agindo.
E se houvesse um grupo como o Commercial Aviation Safety Team onde todas as empresas de IA, reguladores, academia e outras partes interessadas se reunissem para começar os processos proativos e preditivos de garantir que a IA não leve a calamidades?
Do ponto de vista de relatórios, imagine se cada interface de IA tivesse um botão de relatar que um usuário poderia clicar para não apenas relatar resultados potencialmente alucinatórios e inseguros a cada empresa, mas também relatar o mesmo a uma organização de IA modelada no Commercial Aviation Safety Team. Além disso, os dados gerados por sistemas de IA, assim como vemos na aviação, poderiam ser coletados, agregados e analisados para ameaças à segurança.
Embora essa abordagem possa não ser a solução definitiva para prevenir danos da IA, se as grandes empresas de tecnologia adotarem lições aprendidas de outras indústrias de altas consequências, como a aviação, pode muito bem aprender a regular, controlar e, sim, tornar a IA mais segura para todos usarem.