Alexa com IA: por que o uso de inteligência artificial em assistentes virtuais pode quebrar limites éticos?

A tecnologia está avançando a passos largos e tornando-se cada vez mais integrada à vida humana, como uma parte essencial do funcionamento da sociedade moderna. Nossa dependência da conexão e da tecnologia aumenta gradativamente e de forma exponencial.

Um exemplo disso são as assistentes virtuais usadas atualmente, que auxiliam nas tarefas cotidianas de muitas pessoas. Com a aplicação dos sistemas de inteligência artificial a que temos acesso hoje na produção dessas assistentes, é possível desenvolver um programa capaz de antecipar nossas necessidades antes que as perguntemos.

Mas será que essa evolução tecnológica impactaria apenas de maneira positiva na vida humana? Esse questionamento tem sido levantado e discussões acerca de aspectos éticos e morais que envolvem as inteligências artificiais estão se tornando cada vez mais necessárias.

Assistentes de voz com IA são realmente confiáveis?

Foto: Freepik/Reprodução

Atualmente, dispositivos de assistência por comandos de voz são altamente populares, como o Google Assistente, a Siri, da Apple, e a Alexa, da Amazon. Embora ainda não haja integração dessas máquinas com as IAs, muitos já desfrutam dos benefícios desses softwares.

Se a evolução permitir uma junção da inteligência artificial com esses tipos de programas, os benefícios para os mais vulneráveis poderiam ser inúmeros. Idosos ou pessoas com alguma limitação cognitiva poderiam utilizá-los para lembrar de tarefas ou remédios, assim como obter auxílio em diversas áreas de suas vidas.

Contudo, com o desenvolvimento dessas assistentes com IA em andamento, a agência independente norte-americana em prol da ciência, AI-CARING (National Science Foundation AI Institute for Collaborative Assistance and Responsive Interaction for Networked Groups), levanta discussões sobre a segurança da privacidade e ética.

Perigos e soluções

Segundo Alex John London, professor de Ética e Tecnologias Computacionais na Carnegie Mellon University, confiar cegamente nesses softwares poderia dar origem a problemas sérios. Por exemplo, uma inteligência artificial poderia indicar um remédio inadequado para um paciente.

Além disso, a exposição às IAs pode levar a uma dependência preocupante, tornando o usuário ainda mais vulnerável aos seus possíveis erros.

A privacidade dos consumidores também entra em jogo, pois esses sistemas, para oferecerem conclusões e respostas precisas, necessitariam ter acesso a informações privilegiadas das pessoas.

Portanto, para que haja o desenvolvimento adequado desse tipo de ferramenta, as empresas e companhias que atualmente trabalham na criação das inteligências artificiais devem desconsiderar a visão lucrativa e focar na escolha do usuário sobre o compartilhamento de seus dados, além do benefício direto para o consumidor.

Portanto, embora o recurso de assistentes virtuais com IA integrada pareça uma ideia promissora, os impactos que essa tecnologia gera e pode gerar são pautas importantes a serem discutidas antes dos primeiros resultados.