Há quem goste de dirigir por pura diversão, e há quem enxergue essa prática como algo necessário para se locomover com maior agilidade do ponto A ao ponto B. Visto que este segundo perfil é muito mais comum, os carros autônomos são uma das promessas para o futuro — mas, segundo Davi Ottenheimer, vice-presidente de confiança e ética digital na Inrupt e keynote do Mind The Sec 2021, essa “tendência” pode ser mais perigosa e causa ainda mais acidentes de trânsito fatais do que veículos comuns.
- MTS21 | A história da cibersegurança, na prática
- MTS21 | Para proteger o futuro, precisamos olhar para o passado
- MTS21 | 'Para um profissional diferenciado, não bastam apenas hard skills, as soft skills são fundamentais'
Apesar de sua formação acadêmica em filosofia, ele se virou para a área tecnológica e começou a observar alguns pontos que lhe chamaram atenção. “Ao longo desse tempo, acompanhei vários desastres relacionados a máquinas. Os robôs vêm matando pessoas há muito tempo, de forma lenta no início. Costumava haver uma reação rápida quando alguém era morto por uma máquina, e ultimamente isso tem se acelerado significativamente", explica Davi, destacando alguns pontos em específico.
O primeiro deles é um tanto polêmico: já foram registradas 20 mortes supostamente causadas pela confiança excessiva no sistema Autopilot dos carros da Tesla. O especialista também lembra que tivemos acidentes fatais nos testes de veículos autônomos da Uber; porém, enquanto esta interrompeu seus experimentos e agiu rapidamente, a companhia de Elon Musk continua comercializando seus produtos — tudo isso sem sequer revisar a segurança de seus algoritmos.
“A Tesla fez o oposto e vendeu seu sistema a altos preços, cobrando mais caro e prometendo mais recursos”, lembra Davi. Tal atitude, aliás, causou furor entre os consumidores da montadora e foi noticiado pela The Hack. “Como esses robôs assassinos podem tirar vantagem da guerra humana e nos deixar desprotegidos?”, questiona, fazendo um paralelo com os algoritmos de carros inteligentes com robôs de obras de ficção como “2001 - Uma Odisseia no Espaço” e “Blade Runner”.
Nem tão bom assim...
O especialista lembra que, por mas que Elon Musk apresentasse um alto grau de confiança em seus sistemas de condução autônoma em 2016 — quando Davi começou a alertar sobre os perigos do código depois de presenciar duas mortes no mesmo ano —, agora, em 2021, o próprio executivo confessou que o software “não é ótimo”. “Ainda assim, ao longo dos anos, de 2014 a 2017, houveram múltiplas promessas e propagandas de que teríamos autonomia completa muito em breve e que seria prudente confiar nos robôs”, prossegue.
“As promessas de que temos um sistema de aprendizagem, uma inteligência artificial que torna o carro mais seguro que humanos, foi comunicada pela Tesla que não é a verdade”, afirma, citando que, em um evento no dia 19 de agosto, alguns engenheiros da companhia revelaram que os softwares são estáveis e treinados manualmente. “Podemos ver isso refletido nos dados. O número de acidentes tem aumentado dramaticamente. As milhas por acidente, em relação ao resto da indústria, mostram um declínio da Tesla”, aponta.
O que é certo ou errado?
“Eu acho que um dos problemas mais fundamentais, do ponto de vista filosófico, é o que vemos na mensagem, o que está oculto no meio da mensagem, dos engenheiros da Tesla dizendo ‘Fazemos o que achamos que é bom e é isso que colocamos nos carros’. Isso é como dizer: ‘Nós controlamos o que é certo ou errado’. Direitos dentro de um sistema herdado, como a Justiça, o que é justo, o que é certo e o que é errado pode muitas vezes ter uma pessoa responsabilizada, pois foi considerada errada”, conclui Davi.
O executivo ainda faz um paralelo com outras declarações polêmicas de empresas ligadas a tecnologias emergentes, como a Amazon, que basicamente assumiu que seus sistemas de reconhecimento facial não são 100% eficientes, mas são “bons o suficiente” para serem usados pelas forças policiais. Isto, segundo Davi — e precisamos concordar — é uma absurda falta de ética. “É como brincar de Deus”, simplifica.
Ainda dá tempo de adquirir seu ingresso com desconto exclusivo da The Hack! Confira a programação completa do Mind The Sec 2021 e inscreva-se através deste link (usando nosso código ADTHDC-KSEYNQ você ganha 15% de desconto!) e continue acompanhando a The Hack para conferir a nossa cobertura completa do evento!