Táxi-robô da Waymo trafega pelas ruas de San Francisco (EUA) sem motorista – Foto: Dllu/Creative Commons
Há alguns anos, conversava com o vice-presidente de produtos da subsidiária brasileira de um dos maiores fabricantes de carros do mundo, e ele me disse que os carros autônomos só não eram lançados por questões de legislação. Segundo ele, a tecnologia já estaria “madura”. Isso foi antes da explosão da inteligência artificial promovida pelo ChatGPT, e ainda não podemos comprar esses veículos.
Será só um problema legal mesmo?
De lá para cá, tivemos muitos avanços em carros semiautônomos, que realizam tarefas sozinhos, como frear para evitar colisões e estacionar o carro, normalmente melhor que os próprios motoristas. Há sistemas mais sofisticados, como o “piloto automático e condução totalmente autônoma” da Tesla, capaz de auxiliar o motorista em muitas ações.
Tudo isso é um uso incrível da IA! Mas apesar do seu nome, esses sistemas não dispensam a atenção do motorista. A Tesla insiste que o condutor mantenha as mãos no volante e esteja pronto para assumir o controle em uma emergência. E nos últimos anos, o sistema falhou várias vezes, inclusive em situações simples, chocando-se com outros veículos, objetos e pedestres, causando diversas vítimas fatais.
A empresa sempre se defendeu culpando os motoristas por estarem desatentos. Em pelo menos um caso, o condutor nem estaria no seu assento, o que é um descuido absurdo! Mas chamar o sistema de “piloto automático” é um erro, pois isso leva as pessoas a acreditarem que podem confiar na inteligência artificial do veículo sem questionar.
Não chegamos a esse grau de confiabilidade tecnológica!
Outro sistema, ainda mais impressionante, é o dos táxis-autônomos da empresa Waymo, que pertence à Alphabet, controladora do Google. Eles já vinham sendo testados desde 2021 em San Francisco, e funcionam como um Uber, com a diferença que literalmente não há motorista: o carro faz tudo sozinho.
Atualmente, a empresa faz 100 mil corridas por semana em São Francisco, Phoenix e Los Angeles, além de estradas da Califórnia, tudo nos EUA. Está sozinha nesse mercado, pois a concorrente Cruise, da General Motors, foi proibida de circular, depois que um de seus carros feriu gravemente um pedestre em São Francisco, em outubro do ano passado.
Adoraria ter um veículo totalmente autônomo e seguro. Em uma cidade como São Paulo, com o trânsito caótico e engarrafamentos monstruosos, poderia deixar que ele me levasse onde eu quisesse, enquanto leio, trabalho ou até durmo!
Isso seria incrível, mas novamente nos levaria a confiar na máquina de uma maneira que talvez não devêssemos. Temos garantia de que ela realmente está tomando as melhores decisões?
Em um conhecido dilema ético, diante de um imprevisto que impedisse sua frenagem a tempo, questiona-se quem um carro autônomo deveria atropelar: a pessoa a sua frente ou as da calçada? Como uma IA poderia decidir algo assim?
Pois nos EUA, onde as regras de seguros mudam de Estado para Estado, e onde a indenização pode variar de acordo com a idade da vítima, o robô pode ser instruído a atropelar a pessoa que custará menos à seguradora! Ele não poderia parar a tempo de se evitar a tragédia, pois os freios são mecânicos e as leis da Física são implacáveis. Mas ele poderia identificar as vítimas e virar o volante.
É um dilema hipotético, mas o questionamento é grave!
Como em muitas outras coisas, a inteligência artificial já nos auxilia bastante, e devemos aproveitar todo esse poder. Os carros são apenas um exemplo de como ela permeará nossas vidas de maneiras cada vez mais transversais e profundas. Mas por mais sedutora que seja, temos que resistir à tentação de entregar a ela nossas decisões mais sensíveis.
Vídeo relacionado:
