A inteligência artificial é uma realidade dentro das organizações, mas existem efeitos negativos com os quais os administradores de TI devem estar preparados para lidar.
Segundo a Forbes, a inteligência artificial terá pelo menos 14 efeitos que poderão ser prejudiciais para a sociedade. Vulnerabilidade de dados, aumento de ataques cibernéticos e falta de transparência são algumas das possíveis consequências negativas nas quais os administradores de TI devem trabalhar.
Quanto mais cedo começarmos a estudar quais podem ser esses efeitos negativos, mais bem preparados estaremos para lidar com eles e mitigá-los de forma adequada.
Apresentamos a seguir as principais consequências negativas que o uso generalizado da inteligência artificial poderá gerar nos próximos anos, segundo a publicação Forbes.
IA e a falta de privacidade
A necessidade constante da inteligência artificial de aceder a dados pessoais pode violar os direitos básicos de privacidade dos utilizadores.
À medida que a IA se torna mais refinada, ela pode tomar decisões com base em padrões sutis que são difíceis de serem discernidos pelos humanos. Isto significa que as pessoas podem nem saber que os seus dados pessoais estão a ser usados para tomar decisões que as afetam.
Os cibercriminosos podem aproveitar a IA para aumentar seus golpes
A inteligência artificial exige a existência de grandes quantidades de dados pessoais e, se esses dados caírem nas mãos de pessoas erradas, podem ser utilizados para fins perigosos, como roubo de identidade ou cyberbullying.
A IA pode ser usada em detrimento dos usuários e pode se tornar uma dor de cabeça para os administradores de TI quando os fraudadores usam deepfakes e modelos de deep learning como veículos para roubar dinheiro, dados confidenciais e propriedade intelectual sensível, fazendo-se passar por pessoas e entidades nas quais confiamos.
A IA pode tornar-se pouco transparente
A velocidade com que a IA está a ser implementada nas empresas faz com que o departamento de TI não tenha tempo para explicar aos seus utilizadores porque é que ela é utilizada. Isto poderá gerar descontentamento geral e desconfiança por parte dos nossos clientes internos e externos.
Para que os usuários confiem na empresa, a IA deve ser transparente, explicar os motivos de seu uso será essencial para ganhar sua confiança e para que os administradores de sistemas possam realizar uma automação lucrativa de suas tarefas.
O custo e o tempo de implementação dos projetos de IA
O custo econômico da implementação de um projeto de inteligência artificial nas organizações é outro dos efeitos negativos que podemos enfrentar.
Se o departamento de TI não explicar bem ao departamento de contabilidade os prazos e o que implica o desenvolvimento de um sistema de IA, as tensões entre as diferentes áreas poderão aumentar, gerando por sua vez desvios nas metas financeiras planejadas pela área de contabilidade.
Além disso, muitas empresas não possuem competências internas ou não estão familiarizadas com os sistemas de IA e acabam terceirizando projetos, o que aumenta ainda mais os custos e os prazos estimados.
Conclusões
A mudança está acontecendo muito rapidamente, por isso temos que começar hoje a estudar com os nossos colegas quais são os próximos desafios que enfrentamos na indústria. Leia experiências de outras pessoas que já implementaram IA, entenda onde tiveram sucesso, onde não tiveram e por quê.
Por outro lado, em relação aos nossos clientes, devemos entender que para que eles confiem na decisão do nosso departamento de TI de adotar a inteligência artificial e utilizar os seus dados pessoais, a tomada de decisão dos modelos de IA deve ser o mais transparente possível.
É fundamental explicar em nossas políticas porque escolhemos esse caminho, quais benefícios são alcançados com a utilização da IA e qual proteção a empresa oferece à pessoa ao utilizar esta metodologia.
Trazer tranquilidade ao usuário será uma obrigação para qualquer empresa que queira ser séria, o que significa que precisaremos de mais engenheiros de dados e especialistas na área de segurança cibernética com conhecimentos e experiências adquiridas neste novo mundo chamado: Inteligência Artificial.
Artigo original: Efectos negativos de la Inteligencia artificial en la industria de TI
