Riesgos éticos en el uso de inteligencia artificial en decisiones automatizadas dentro del software empresarial

Resumen

La tecnología, especialmente la inteligencia artificial (IA), ha transformado significativamente la vida cotidiana, mejorando la calidad de vida y facilitando el aprendizaje y la toma de decisiones. Sin embargo, el uso de la IA en la toma de decisiones empresariales plantea riesgos éticos importantes que deben ser analizados para comprender sus implicaciones y encontrar soluciones. Entre los principales problemas se encuentran el fenómeno de la caja negra y la falta de entrenamiento adecuado de los algoritmos. Aunque varios estudios han elogiado los beneficios de la IA, pocos han explorado los riesgos asociados a su uso, lo que hace necesario un análisis equilibrado. Este artículo se enfoca en evaluar esos riesgos éticos y en comprender cómo pueden afectar a las organizaciones. Para ello, se realizó una revisión sistemática basada en la metodología PRISMA, utilizando fuentes académicas como Google Académico, Redilat y Scielo, con un criterio de inclusión relacionado con la toma de decisiones empresariales y un rango temporal de 2020 a 2025. Los resultados de la investigación muestran que, aunque la IA mejora los procesos, la falta de transparencia y responsabilidad sigue siendo un desafío, especialmente cuando se utiliza en contextos organizacionales donde la intervención humana es limitada. Se concluye que es esencial realizar un análisis más profundo sobre el impacto ético de la IA en las empresas para garantizar su uso responsable y transparente.