Vol. 12/ Núm. 2 2025 pág. 2896
https://doi.org/10.69639/arandu.v12i2.1115
Riesgos éticos en el uso de inteligencia artificial en decisiones
automatizadas dentro del software empresarial
Ethical Risks in the Use of Artificial Intelligence in Automated Decisions within
Enterprise Software
Gonzalo Daniel Chicaiza Manosalvas
e1719637892@uisrael.edu.ec
https://orcid.org/0009-0004-2698-7867
Universidad Tecnológica Israel
Quito – Ecuador
Jhon Valdemar Romero Navarrete
e1721395125@uisrael.edu.ec
https://orcid.org/0009-0005-6485-2880
Universidad Tecnológica Israel
Quito – Ecuador
Carlos Eduardo Salazar Guaña
csalazar@uisrael.edu.ec
https://orcid.org/0009-0008-8105-8955
Universidad Tecnológica Israel
Quito - Ecuador
Artículo recibido: 10 abril 2025 - Aceptado para publicación: 20 mayo 2025
Conflictos de intereses: Ninguno que declarar
RESUMEN
La tecnología, especialmente la inteligencia artificial (IA), ha transformado significativamente la
vida cotidiana, mejorando la calidad de vida y facilitando el aprendizaje y la toma de decisiones.
Sin embargo, el uso de la IA en la toma de decisiones empresariales plantea riesgos éticos
importantes que deben ser analizados para comprender sus implicaciones y encontrar soluciones.
Entre los principales problemas se encuentran el fenómeno de la caja negra y la falta de
entrenamiento adecuado de los algoritmos. Aunque varios estudios han elogiado los beneficios
de la IA, pocos han explorado los riesgos asociados a su uso, lo que hace necesario un análisis
equilibrado. Este artículo se enfoca en evaluar esos riesgos éticos y en comprender cómo pueden
afectar a las organizaciones. Para ello, se realizó una revisión sistemática basada en la
metodología PRISMA, utilizando fuentes académicas como Google Académico, Redilat y Scielo,
con un criterio de inclusión relacionado con la toma de decisiones empresariales y un rango
temporal de 2020 a 2025. Los resultados de la investigación muestran que, aunque la IA mejora
los procesos, la falta de transparencia y responsabilidad sigue siendo un desafío, especialmente
cuando se utiliza en contextos organizacionales donde la intervención humana es limitada. Se
Vol. 12/ Núm. 2 2025 pág. 2897
concluye que es esencial realizar un análisis más profundo sobre el impacto ético de la IA en las
empresas para garantizar su uso responsable y transparente.
Palabras clave: IA, riesgos, decisiones, mejoría, PRISMA
ABSTRACT
Technology, particularly artificial intelligence (AI), has significantly transformed daily life,
improving quality of life and facilitating learning and decision-making. However, the use of AI
in business decision-making presents important ethical risks that must be analyzed to understand
its implications and find solutions. Key issues include the black-box phenomenon and the lack of
adequate algorithmic training. Although several studies have praised the benefits of AI, few have
explored the risks associated with its use, making a balanced analysis necessary. This article
focuses on evaluating these ethical risks and understanding how they may affect organizations.
To do so, a systematic review based on the PRISMA methodology was conducted, using academic
sources such as Google Scholar, Redilat, and Scielo, with inclusion criteria related to decision-
making in businesses and a temporal range from 2020 to 2025. The research results show that,
although AI improves processes, the lack of transparency and accountability remains a challenge,
especially when used in organizational contexts where human intervention is limited. The
conclusion is that a deeper analysis of the ethical impact of AI in businesses is essential to ensure
its responsible and transparent use.
Keywords: AI, risks, decisions, improvement, PRISMA
Todo el contenido de la Revista Científica Internacional Arandu UTIC publicado en este sitio está disponible bajo
licencia Creative Commons Atribution 4.0 International.
concluye que es esencial realizar un análisis más profundo sobre el impacto ético de la IA en las
empresas para garantizar su uso responsable y transparente.
Palabras clave: IA, riesgos, decisiones, mejoría, PRISMA
ABSTRACT
Technology, particularly artificial intelligence (AI), has significantly transformed daily life,
improving quality of life and facilitating learning and decision-making. However, the use of AI
in business decision-making presents important ethical risks that must be analyzed to understand
its implications and find solutions. Key issues include the black-box phenomenon and the lack of
adequate algorithmic training. Although several studies have praised the benefits of AI, few have
explored the risks associated with its use, making a balanced analysis necessary. This article
focuses on evaluating these ethical risks and understanding how they may affect organizations.
To do so, a systematic review based on the PRISMA methodology was conducted, using academic
sources such as Google Scholar, Redilat, and Scielo, with inclusion criteria related to decision-
making in businesses and a temporal range from 2020 to 2025. The research results show that,
although AI improves processes, the lack of transparency and accountability remains a challenge,
especially when used in organizational contexts where human intervention is limited. The
conclusion is that a deeper analysis of the ethical impact of AI in businesses is essential to ensure
its responsible and transparent use.
Keywords: AI, risks, decisions, improvement, PRISMA
Todo el contenido de la Revista Científica Internacional Arandu UTIC publicado en este sitio está disponible bajo
licencia Creative Commons Atribution 4.0 International.
Vol. 12/ Núm. 2 2025 pág. 2898
INTRODUCCIÓN
No hay duda de que la inteligencia artificial ha avanzado considerablemente en la
actualidad, abarcando y transformando muchos campos, desde la educación hasta el análisis y la
academia. Su objetivo es superar y, en algunos casos, eliminar los problemas que existieron en el
pasado, automatizando procesos que antes requerían la intervención de grandes grupos de
personas. Sin embargo, es importante no caer en la generalización, ya que los riesgos de dejar
todo el trabajo en manos de una IA son innegables. A pesar de que la tecnología ha mejorado, el
margen de error sigue siendo alto y no siempre cumple con los estándares necesarios. Esta es una
de las cuestiones que surgen con la introducción de la IA en las aplicaciones empresariales.
Aunque el uso de la inteligencia artificial en entornos de oficina ha crecido de manera
notable, ha transformado la manera en que las empresas operan y toman decisiones. Un proceso
automatizado puede ser muy eficaz, aumentar la productividad y recopilar datos valiosos. Sin
embargo, delegar decisiones a un algoritmo simple plantea rigideces y plantea cuestiones éticas y
morales que deben ser abordadas. Las decisiones automatizadas, la falta de transparencia en los
procesos y la posible erosión de la privacidad son solo algunos de los problemas que necesitan
ser investigados. “Para proteger la privacidad de los datos personales es fundamental adoptar
prácticas responsables de recopilación y almacenamiento, garantizando el anonimato siempre
que sea posible y obteniendo el consentimiento explícito de los usuarios para su uso.” (HP, 2024)
De esto nace el interés autoral de investigar y documentar aquellos riesgos en los que se
puede caer cuando se usa de forma desmedida a la IA en la toma de decisiones por medio de
software basados en dichos avances tecnológicos, lo que vuelve indispensable establecer una
discusión sobre cómo superar dichos desafíos y si es posible, fomentar una implementación ética
y responsable de esta nueva tecnología, concluyendo en el siguiente cuestionamiento: ¿Cuáles
son los principales riesgos éticos que conlleva el uso de un software basado en IA para la
toma de decisiones empresariales?
Para ello, este estudio tiene como objetivo principal analizar los principales riesgos éticos
asociados al uso de la inteligencia artificial en el software empresarial. Para lograrlo, se examinará
el modo actual de entrenamiento de la IA enfocado en la toma de decisiones, buscando
comprender cómo las metodologías actuales pueden introducir o amplificar sesgos. Además, se
evaluará la responsabilidad que conlleva delegar decisiones a sistemas de IA, investigando quién
o qué debe rendir cuentas cuando surgen problemas. Finalmente, se identificarán las áreas
indispensables para establecer límites claros a la IA en cuanto a la toma de decisiones,
garantizando así un uso más seguro y ético de esta tecnología en el ámbito empresarial.
INTRODUCCIÓN
No hay duda de que la inteligencia artificial ha avanzado considerablemente en la
actualidad, abarcando y transformando muchos campos, desde la educación hasta el análisis y la
academia. Su objetivo es superar y, en algunos casos, eliminar los problemas que existieron en el
pasado, automatizando procesos que antes requerían la intervención de grandes grupos de
personas. Sin embargo, es importante no caer en la generalización, ya que los riesgos de dejar
todo el trabajo en manos de una IA son innegables. A pesar de que la tecnología ha mejorado, el
margen de error sigue siendo alto y no siempre cumple con los estándares necesarios. Esta es una
de las cuestiones que surgen con la introducción de la IA en las aplicaciones empresariales.
Aunque el uso de la inteligencia artificial en entornos de oficina ha crecido de manera
notable, ha transformado la manera en que las empresas operan y toman decisiones. Un proceso
automatizado puede ser muy eficaz, aumentar la productividad y recopilar datos valiosos. Sin
embargo, delegar decisiones a un algoritmo simple plantea rigideces y plantea cuestiones éticas y
morales que deben ser abordadas. Las decisiones automatizadas, la falta de transparencia en los
procesos y la posible erosión de la privacidad son solo algunos de los problemas que necesitan
ser investigados. “Para proteger la privacidad de los datos personales es fundamental adoptar
prácticas responsables de recopilación y almacenamiento, garantizando el anonimato siempre
que sea posible y obteniendo el consentimiento explícito de los usuarios para su uso.” (HP, 2024)
De esto nace el interés autoral de investigar y documentar aquellos riesgos en los que se
puede caer cuando se usa de forma desmedida a la IA en la toma de decisiones por medio de
software basados en dichos avances tecnológicos, lo que vuelve indispensable establecer una
discusión sobre cómo superar dichos desafíos y si es posible, fomentar una implementación ética
y responsable de esta nueva tecnología, concluyendo en el siguiente cuestionamiento: ¿Cuáles
son los principales riesgos éticos que conlleva el uso de un software basado en IA para la
toma de decisiones empresariales?
Para ello, este estudio tiene como objetivo principal analizar los principales riesgos éticos
asociados al uso de la inteligencia artificial en el software empresarial. Para lograrlo, se examinará
el modo actual de entrenamiento de la IA enfocado en la toma de decisiones, buscando
comprender cómo las metodologías actuales pueden introducir o amplificar sesgos. Además, se
evaluará la responsabilidad que conlleva delegar decisiones a sistemas de IA, investigando quién
o qué debe rendir cuentas cuando surgen problemas. Finalmente, se identificarán las áreas
indispensables para establecer límites claros a la IA en cuanto a la toma de decisiones,
garantizando así un uso más seguro y ético de esta tecnología en el ámbito empresarial.
Vol. 12/ Núm. 2 2025 pág. 2899
MATERIALES Y METODOS
Tipo de investigación
Para el desarrollo del trabajo de investigación, se optó por la utilización de la metodología
PRISMA, puesto que se hizo un seguimiento y una revisión sistemática de los posibles riesgos a
los que se puede someter al dejar a cargo de la toma de decisiones a un software basado en
inteligencia artificial. Al analizar lo brindado por diferentes autores en revistas, periódicos e
incluso otros documentos de carácter científico, se denoto la clara necesidad de elaborar un texto
orientado a evaluar la gran falencia que representa el otorgar la toma de decisiones a un algoritmo
y también estableciendo los posibles conflictos a los que se puede sujetar el uso desmedido de
esta tecnología.
Del mismo modo se tomará como base el método cualitativo, con el objetivo de evaluar
diversos pensamientos, ideas e información de otros autores con para revisión y
consecuentemente obtener una conclusión acorde a la problemática planteada.
Gráfico 1
Diagrama prisma
Luego de aplicar varios filtros (como año de publicación, que contengan en
el texto referencias a toma de decisiones empresariales, riesgos éticos), se
obtienen alrededor de 500 artículos
Al hacer una búsqueda simple en el motor de búsqueda de Google
Académico, se encuentran alrededor de 1000 artículos que mencionan a la
IA para la toma de decisiones
Habiendo eliminado los artículos repetidos o duplicados, o que no cumplan
el parámetro de cinco años quedan alrededor de 100
Finalmente, al evaluar el resumen del trabajo de investigación se toman en
consideración únicamente 10 trabajos
MATERIALES Y METODOS
Tipo de investigación
Para el desarrollo del trabajo de investigación, se optó por la utilización de la metodología
PRISMA, puesto que se hizo un seguimiento y una revisión sistemática de los posibles riesgos a
los que se puede someter al dejar a cargo de la toma de decisiones a un software basado en
inteligencia artificial. Al analizar lo brindado por diferentes autores en revistas, periódicos e
incluso otros documentos de carácter científico, se denoto la clara necesidad de elaborar un texto
orientado a evaluar la gran falencia que representa el otorgar la toma de decisiones a un algoritmo
y también estableciendo los posibles conflictos a los que se puede sujetar el uso desmedido de
esta tecnología.
Del mismo modo se tomará como base el método cualitativo, con el objetivo de evaluar
diversos pensamientos, ideas e información de otros autores con para revisión y
consecuentemente obtener una conclusión acorde a la problemática planteada.
Gráfico 1
Diagrama prisma
Luego de aplicar varios filtros (como año de publicación, que contengan en
el texto referencias a toma de decisiones empresariales, riesgos éticos), se
obtienen alrededor de 500 artículos
Al hacer una búsqueda simple en el motor de búsqueda de Google
Académico, se encuentran alrededor de 1000 artículos que mencionan a la
IA para la toma de decisiones
Habiendo eliminado los artículos repetidos o duplicados, o que no cumplan
el parámetro de cinco años quedan alrededor de 100
Finalmente, al evaluar el resumen del trabajo de investigación se toman en
consideración únicamente 10 trabajos
Vol. 12/ Núm. 2 2025 pág. 2900
RESULTADOS
Estrategia de búsqueda
Con el objetivo de obtener una fuente confiable de información se optó por realizar una
búsqueda de trabajos de investigación relacionados al uso de la IA para la toma de decisiones en
bases de datos de Redilat, Dialnet, Scielo y Google Académico.
Selección de estudios
Para centrar la búsqueda, deseando disminuir el valor de 100 trabajos, y enfocarse en el
tema de la IA y la toma de decisiones en el sector empresarial, se decidió aplicar criterios de
búsqueda, primero centrando toda la búsqueda en concreto en el sector empresarial, y después en
el periodo de 2020 a 2024, con lo que se pudo llegar a un total de 10 trabajos de investigación que
sirvieron como una gran fuente de información. Decisiones que fueron tomadas basados en el
pensamiento critico e investigativo de cada uno de los participantes, quienes validaban cada punto
tomando en consideración el año de publicación y la información en general brindada por el
estudio.
Aplicación de criterios
Con la finalidad de establecer una búsqueda mas centrada, se aplicaron los criterios de
inclusión antes señalados, como incluir como datos lo relacionado a la toma de decisiones por
parte de una IA, sin importar la rama de la institución, siempre y cuando no sea de carácter legal
o público; como criterio de exclusión se limitó a considerar trabajos o aspectos donde la IA se
usada para buscar información o como medio para ayudar a solventar alguna falencia personal.
Gráfico 2
Diagrama PRISMA
Trabajos identificados: 1000 Duplicados eliminados: 500
Excluidos por antigüedad o
irrelevancia: 400
Evaluados a texto
completo: 100
Incluidos: 10
RESULTADOS
Estrategia de búsqueda
Con el objetivo de obtener una fuente confiable de información se optó por realizar una
búsqueda de trabajos de investigación relacionados al uso de la IA para la toma de decisiones en
bases de datos de Redilat, Dialnet, Scielo y Google Académico.
Selección de estudios
Para centrar la búsqueda, deseando disminuir el valor de 100 trabajos, y enfocarse en el
tema de la IA y la toma de decisiones en el sector empresarial, se decidió aplicar criterios de
búsqueda, primero centrando toda la búsqueda en concreto en el sector empresarial, y después en
el periodo de 2020 a 2024, con lo que se pudo llegar a un total de 10 trabajos de investigación que
sirvieron como una gran fuente de información. Decisiones que fueron tomadas basados en el
pensamiento critico e investigativo de cada uno de los participantes, quienes validaban cada punto
tomando en consideración el año de publicación y la información en general brindada por el
estudio.
Aplicación de criterios
Con la finalidad de establecer una búsqueda mas centrada, se aplicaron los criterios de
inclusión antes señalados, como incluir como datos lo relacionado a la toma de decisiones por
parte de una IA, sin importar la rama de la institución, siempre y cuando no sea de carácter legal
o público; como criterio de exclusión se limitó a considerar trabajos o aspectos donde la IA se
usada para buscar información o como medio para ayudar a solventar alguna falencia personal.
Gráfico 2
Diagrama PRISMA
Trabajos identificados: 1000 Duplicados eliminados: 500
Excluidos por antigüedad o
irrelevancia: 400
Evaluados a texto
completo: 100
Incluidos: 10
Vol. 12/ Núm. 2 2025 pág. 2901
Diseño de Investigación
Para evidenciar lo brindado por otros autores, se tomó como base el método prisma, con
la finalidad de revisar, analizar e ilustrar los potenciales riesgos éticos que enfrentan y podrían
enfrentar en el futuro las instituciones que tomen decisiones partiendo del uso de un software
empresarial basado en una IA.
Instrumentos de recolección de datos
Al haber optado por la utilización de la metodología prisma, se decidió hacer una
búsqueda, análisis y conclusión basada en cuestiones relacionadas a la IA, como su avance, uso
y creciente aplicación sin limitación. Información obtenida de sitios web, revistas, blogs, entre
otros medios digitales.
Tabla 1
Criterios de selección
Variables Criterios de inclusion
Bases de datos Redilat, Dialnet, Scielo y Google Académico
Palabras clave IA para la toma de decisiones empresariales
Año de publicación 2020-2024
Tipología de
documentos
Artículos científicos y trabajos de grado
Área de publicación Filosofía/Tecnología
País Nivel Mundial
Idiomas Sin limitación
Mapa bibliométrico Realizado con las palabras clave apareciendo en el titulo o cuerpo del
trabajo
Diseño de Investigación
Para evidenciar lo brindado por otros autores, se tomó como base el método prisma, con
la finalidad de revisar, analizar e ilustrar los potenciales riesgos éticos que enfrentan y podrían
enfrentar en el futuro las instituciones que tomen decisiones partiendo del uso de un software
empresarial basado en una IA.
Instrumentos de recolección de datos
Al haber optado por la utilización de la metodología prisma, se decidió hacer una
búsqueda, análisis y conclusión basada en cuestiones relacionadas a la IA, como su avance, uso
y creciente aplicación sin limitación. Información obtenida de sitios web, revistas, blogs, entre
otros medios digitales.
Tabla 1
Criterios de selección
Variables Criterios de inclusion
Bases de datos Redilat, Dialnet, Scielo y Google Académico
Palabras clave IA para la toma de decisiones empresariales
Año de publicación 2020-2024
Tipología de
documentos
Artículos científicos y trabajos de grado
Área de publicación Filosofía/Tecnología
País Nivel Mundial
Idiomas Sin limitación
Mapa bibliométrico Realizado con las palabras clave apareciendo en el titulo o cuerpo del
trabajo
Vol. 12/ Núm. 2 2025 pág. 2902
Tabla 2
Trabajos de investigación base
Autor/Año Tipo de estudio Riesgo Evaluado Titulo Conclusión
Raúl Páez
(2023)
Articulo científico Decisiones financieras Impacto de la
Inteligencia Artificial en
la toma de decisiones
financieras corporativas
Este estudio revela el papel fundamental de la IA en la toma de decisiones financieras
corporativas y su potencial para impulsar la eficiencia y la efectividad en la gestión financiera
empresarial.
María Granja;
Ramón
Valenzuela;
Robinson
Uyasan (2024)
Articulo científico Resultados manipulados
por el uso de la IA
Riesgos de la
inteligencia artificial
generativa en la
producción de la
información para la
toma de decisiones
Esta investigación es un estudio teórico de carácter descriptivo y cualitativo, de fuentes
primarias para la comprensión de los dilemas de la IA por medio del cual se identifican los
diferentes dilemas a tener en cuenta en el uso actual de la Inteligencia Artificial Generativa, en
especial los resultados manipulados o falsos que no son supervisados por el ser humano y que
pueden generar malas comprensiones de la realidad.
Rosa Torres
(2023)
Articulo científico Riesgo de los
trabajadores
Los riesgos y los
desafíos que enfrentan
los trabajadores frente al
uso de la inteligencia
artificial en el trabajo
Es importante que se tomen medidas para proteger los derechos laborales y garantizar una
transición justa hacia un entorno laboral cada vez más automatizado.
Nadiuska
Diestra;
Alexandra
Cordova; Caren
Caruajulca
(2021)
Articulo científico Decisiones gerenciales La inteligencia artificial
y la toma de decisiones
gerenciales
A pesar de la existencia de una fuerte competencia en el mundo empresarial, que ha llevado a
las empresas a buscar medios que generen una eficacia y eficiencia inmediata sin prever las
posibles consecuencias, se debe orientar a obtener una relación equilibrada de la IA y la toma
de decisiones.
Fabian Arizaga;
Edmundo
Arizaga; María
Álava; Lilia
Sarmiento
(2024)
Articulo científico Decisiones empresariales Aplicaciones de las IA
en la toma de decisiones
empresariales. Una
revisión sistemática
Este estudio evidencia que, aunque la IA tiene un gran potencial para transformar la toma de
decisiones empresariales, es crucial abordar los desafíos técnicos y éticos para maximizar su
impacto positivo y promover su adopción responsable.
Ingrid Franco;
Paola Marín
(2024)
Trabajo de grado Decisiones financieras Incidencia de la
inteligencia artificial en
la toma de decisiones
La Inteligencia Artificial no es solo una tendencia tecnológica en la toma de decisiones
financieras en el sector bancario, sino una transformación estructural que es irreversible, ya que
el foco se centra en como integrarla de manera ética, eficiente y segura, maximizando sus
beneficios y minimizando riesgos.
Tabla 2
Trabajos de investigación base
Autor/Año Tipo de estudio Riesgo Evaluado Titulo Conclusión
Raúl Páez
(2023)
Articulo científico Decisiones financieras Impacto de la
Inteligencia Artificial en
la toma de decisiones
financieras corporativas
Este estudio revela el papel fundamental de la IA en la toma de decisiones financieras
corporativas y su potencial para impulsar la eficiencia y la efectividad en la gestión financiera
empresarial.
María Granja;
Ramón
Valenzuela;
Robinson
Uyasan (2024)
Articulo científico Resultados manipulados
por el uso de la IA
Riesgos de la
inteligencia artificial
generativa en la
producción de la
información para la
toma de decisiones
Esta investigación es un estudio teórico de carácter descriptivo y cualitativo, de fuentes
primarias para la comprensión de los dilemas de la IA por medio del cual se identifican los
diferentes dilemas a tener en cuenta en el uso actual de la Inteligencia Artificial Generativa, en
especial los resultados manipulados o falsos que no son supervisados por el ser humano y que
pueden generar malas comprensiones de la realidad.
Rosa Torres
(2023)
Articulo científico Riesgo de los
trabajadores
Los riesgos y los
desafíos que enfrentan
los trabajadores frente al
uso de la inteligencia
artificial en el trabajo
Es importante que se tomen medidas para proteger los derechos laborales y garantizar una
transición justa hacia un entorno laboral cada vez más automatizado.
Nadiuska
Diestra;
Alexandra
Cordova; Caren
Caruajulca
(2021)
Articulo científico Decisiones gerenciales La inteligencia artificial
y la toma de decisiones
gerenciales
A pesar de la existencia de una fuerte competencia en el mundo empresarial, que ha llevado a
las empresas a buscar medios que generen una eficacia y eficiencia inmediata sin prever las
posibles consecuencias, se debe orientar a obtener una relación equilibrada de la IA y la toma
de decisiones.
Fabian Arizaga;
Edmundo
Arizaga; María
Álava; Lilia
Sarmiento
(2024)
Articulo científico Decisiones empresariales Aplicaciones de las IA
en la toma de decisiones
empresariales. Una
revisión sistemática
Este estudio evidencia que, aunque la IA tiene un gran potencial para transformar la toma de
decisiones empresariales, es crucial abordar los desafíos técnicos y éticos para maximizar su
impacto positivo y promover su adopción responsable.
Ingrid Franco;
Paola Marín
(2024)
Trabajo de grado Decisiones financieras Incidencia de la
inteligencia artificial en
la toma de decisiones
La Inteligencia Artificial no es solo una tendencia tecnológica en la toma de decisiones
financieras en el sector bancario, sino una transformación estructural que es irreversible, ya que
el foco se centra en como integrarla de manera ética, eficiente y segura, maximizando sus
beneficios y minimizando riesgos.
Vol. 12/ Núm. 2 2025 pág. 2903
financieras en el sector
bancario
Alba Soriano
(2022)
Articulo científico Selección y gestión del
personal
El uso de la inteligencia
artificial en la selección
y gestión del personal de
las administraciones
públicas
El trabajo incorpora una serie de reflexiones acerca de la conveniencia de incorporar dichas
herramientas, subrayando la necesidad de que dicha incorporación se realice siempre teniendo
en cuenta los riesgos propios de la automatización de procesos y respetando los principios
propios con base en los cuales debe desarrollarse toda actuación administrativa.
Soraya
González; Ana
Carreras; Eva
Mora (2024)
Articulo científico Decisiones empresariales Toma de decisiones
empresariales e
Inteligencia Artificial:
Business decision-
making and Artificial
Intelligence
Los resultados ponen de manifiesto la reticencia de algunos estudiantes del Grado de Ingeniería
Aeroespacial a la hora de utilizar la IA para decidir en el ámbito empresarial, al considerar que
los algoritmos no pueden tomar decisiones humanizadas. Esta experiencia supone una
contribución importante ya que analiza una experiencia práctica en el manejo de la IA
generativa.
María Gutiérrez
(2021)
Articulo científico Administraciones
inteligentes, caja negra
Administraciones
inteligentes y acceso al
código fuente y los
algoritmos públicos.
Conjurando riesgos de
cajas negras
decisionales
Se constata, por último, que no existe una coincidencia exacta entre el significado técnico de la
transparencia algorítmica manejado por la XAI y el significado jurídico de la transparencia
administrativa propio del iuspublicismo. De lege ferenda, y a fin de garantizar una adecuada
interpretabilidad, explicabilidad y justificación de las decisiones públicas adoptadas o apoyadas
en sistemas de IA y el escrutinio público de las mismas, la legislación de transparencia debería
determinar la información relevante que podría ser objeto de publicidad activa o del derecho de
acceso e incorporar obligaciones de producción, conservación y registro de la documentación
técnica relativa al ciclo de vida de tales sistemas.
Laura
Guasgüita;
Gladis Arias
(2024)
Articulo científico Uso de los chatbots
Análisis ético
Análisis ético del uso de
los chatbots basados en
la IA y su incursión en la
toma de decisiones en la
contemporaneidad
La relevancia de este estudio se da por las implicaciones éticas, teniendo en cuenta la normativa,
así como las ventajas y limitaciones del uso de esta tecnología. Además, se visualiza el manejo
cada vez más masivo, y, por consiguiente, la multiplicidad de temas tratados, la relevancia de
estas herramientas en la cotidianidad de las personas, la diversidad de usuarios que surgen en
diferentes contextos y los riesgos a nivel de confiabilidad de la información, el trato que se da
a los datos personal, y en sí, la toma de decisiones por parte de los desarrolladores y de los
mismos usuarios.
financieras en el sector
bancario
Alba Soriano
(2022)
Articulo científico Selección y gestión del
personal
El uso de la inteligencia
artificial en la selección
y gestión del personal de
las administraciones
públicas
El trabajo incorpora una serie de reflexiones acerca de la conveniencia de incorporar dichas
herramientas, subrayando la necesidad de que dicha incorporación se realice siempre teniendo
en cuenta los riesgos propios de la automatización de procesos y respetando los principios
propios con base en los cuales debe desarrollarse toda actuación administrativa.
Soraya
González; Ana
Carreras; Eva
Mora (2024)
Articulo científico Decisiones empresariales Toma de decisiones
empresariales e
Inteligencia Artificial:
Business decision-
making and Artificial
Intelligence
Los resultados ponen de manifiesto la reticencia de algunos estudiantes del Grado de Ingeniería
Aeroespacial a la hora de utilizar la IA para decidir en el ámbito empresarial, al considerar que
los algoritmos no pueden tomar decisiones humanizadas. Esta experiencia supone una
contribución importante ya que analiza una experiencia práctica en el manejo de la IA
generativa.
María Gutiérrez
(2021)
Articulo científico Administraciones
inteligentes, caja negra
Administraciones
inteligentes y acceso al
código fuente y los
algoritmos públicos.
Conjurando riesgos de
cajas negras
decisionales
Se constata, por último, que no existe una coincidencia exacta entre el significado técnico de la
transparencia algorítmica manejado por la XAI y el significado jurídico de la transparencia
administrativa propio del iuspublicismo. De lege ferenda, y a fin de garantizar una adecuada
interpretabilidad, explicabilidad y justificación de las decisiones públicas adoptadas o apoyadas
en sistemas de IA y el escrutinio público de las mismas, la legislación de transparencia debería
determinar la información relevante que podría ser objeto de publicidad activa o del derecho de
acceso e incorporar obligaciones de producción, conservación y registro de la documentación
técnica relativa al ciclo de vida de tales sistemas.
Laura
Guasgüita;
Gladis Arias
(2024)
Articulo científico Uso de los chatbots
Análisis ético
Análisis ético del uso de
los chatbots basados en
la IA y su incursión en la
toma de decisiones en la
contemporaneidad
La relevancia de este estudio se da por las implicaciones éticas, teniendo en cuenta la normativa,
así como las ventajas y limitaciones del uso de esta tecnología. Además, se visualiza el manejo
cada vez más masivo, y, por consiguiente, la multiplicidad de temas tratados, la relevancia de
estas herramientas en la cotidianidad de las personas, la diversidad de usuarios que surgen en
diferentes contextos y los riesgos a nivel de confiabilidad de la información, el trato que se da
a los datos personal, y en sí, la toma de decisiones por parte de los desarrolladores y de los
mismos usuarios.
Vol. 12/ Núm. 2 2025 pág. 2904
El avance de la IA es innegable, ha alcanzado nuevos factores que posiblemente antes eran
inimaginables, ha sido utilizada para diagnosticar enfermedades, solventar dudas, e incluso en el
ámbito de conservación de la paz, analizando rostros de criminales, pero aún es una tecnología
que tiene mucha tela que cortar.
El uso de esta tecnología ha servido también para transformar e incluso eliminar acciones
que previamente eran realizadas por personal humano, automatizando el medio y eliminando
varios puestos de trabajo, lo que pueda parecer un buen aspecto para ser tomado en cuenta cuando
lo usa un empresari. El problema se origina cuando no se toma en cuenta la gran cantidad de
matices que esto conlleva, pues se utiliza sin realizar un análisis previo, lo que conlleva a recaer
en consecuencias que podría afectar desde grandes pérdidas, por una decisión financiera, a
malograr el bienestar humano. Por eso es necesario tomar en consideración todos los aspectos
para la utilización de un sistema basado en una IA y sobre todo limitar su participación,
manteniendo todavía bajo el control humano la toma de decisiones que a corto o largo plazo
puedan afectar al sector humano o económico empresarial. Sin embargo, al ser todavía una
tecnología creciente, es necesario ir año tras año evaluando los nuevos riesgos o si se pudieron
solventar los anteriores, lo que deja todavía mucha tela que cortar en cuanto al uso de la IA en la
toma de decisiones.
Debido a lo actual del tema y al ser la IA una tecnología en desarrollo, las limitaciones
existentes fueron sujetas al factor tiempo; pues si bien existe información de este avance, no se
puede hacer uso en su totalidad debido a lo cambiante y a su actualización continua.
Otro aspecto importante fue la consideración en casi todos los trabajos de investigación,
que la IA es un objeto clave para mejorar y agilitar procesos, sin considerar los aspectos negativos
como responsabilidad o transparencia.
Como se ha reiterado varias veces en el desarrollo del trabajo, la IA es una tecnología que
día a día va alcanzando nuevos espacios, nuevas atribuciones y nuevos usos, por lo tanto,
mantener un conocimiento y un estudio pausado de lo que se relaciona a ésta, seria dejar de lado
la búsqueda misma del entendimiento.
Para ir cada día complementando esos vacíos que se van generando o para estudiar a
profundidad aquellos aspectos que se pueden ir solventando, es necesario mantener un enfoque
investigativo permanente, estudiando aspectos como la caja negra, las variables y errores
algorítmicos, el entrenamiento de la IA para solventar y resolver problemas de un mayor grado
de complejidad, la responsabilidad de la IA como un ente inmaterial, la transparencia para el
desarrollo de procesos e incluso el impacto social, cultural, económico y humano del remplazo
de la IA.
El avance de la IA es innegable, ha alcanzado nuevos factores que posiblemente antes eran
inimaginables, ha sido utilizada para diagnosticar enfermedades, solventar dudas, e incluso en el
ámbito de conservación de la paz, analizando rostros de criminales, pero aún es una tecnología
que tiene mucha tela que cortar.
El uso de esta tecnología ha servido también para transformar e incluso eliminar acciones
que previamente eran realizadas por personal humano, automatizando el medio y eliminando
varios puestos de trabajo, lo que pueda parecer un buen aspecto para ser tomado en cuenta cuando
lo usa un empresari. El problema se origina cuando no se toma en cuenta la gran cantidad de
matices que esto conlleva, pues se utiliza sin realizar un análisis previo, lo que conlleva a recaer
en consecuencias que podría afectar desde grandes pérdidas, por una decisión financiera, a
malograr el bienestar humano. Por eso es necesario tomar en consideración todos los aspectos
para la utilización de un sistema basado en una IA y sobre todo limitar su participación,
manteniendo todavía bajo el control humano la toma de decisiones que a corto o largo plazo
puedan afectar al sector humano o económico empresarial. Sin embargo, al ser todavía una
tecnología creciente, es necesario ir año tras año evaluando los nuevos riesgos o si se pudieron
solventar los anteriores, lo que deja todavía mucha tela que cortar en cuanto al uso de la IA en la
toma de decisiones.
Debido a lo actual del tema y al ser la IA una tecnología en desarrollo, las limitaciones
existentes fueron sujetas al factor tiempo; pues si bien existe información de este avance, no se
puede hacer uso en su totalidad debido a lo cambiante y a su actualización continua.
Otro aspecto importante fue la consideración en casi todos los trabajos de investigación,
que la IA es un objeto clave para mejorar y agilitar procesos, sin considerar los aspectos negativos
como responsabilidad o transparencia.
Como se ha reiterado varias veces en el desarrollo del trabajo, la IA es una tecnología que
día a día va alcanzando nuevos espacios, nuevas atribuciones y nuevos usos, por lo tanto,
mantener un conocimiento y un estudio pausado de lo que se relaciona a ésta, seria dejar de lado
la búsqueda misma del entendimiento.
Para ir cada día complementando esos vacíos que se van generando o para estudiar a
profundidad aquellos aspectos que se pueden ir solventando, es necesario mantener un enfoque
investigativo permanente, estudiando aspectos como la caja negra, las variables y errores
algorítmicos, el entrenamiento de la IA para solventar y resolver problemas de un mayor grado
de complejidad, la responsabilidad de la IA como un ente inmaterial, la transparencia para el
desarrollo de procesos e incluso el impacto social, cultural, económico y humano del remplazo
de la IA.
Vol. 12/ Núm. 2 2025 pág. 2905
DISCUSIÓN
El uso de la IA ha servido para transformar e incluso eliminar acciones que previamente
eran realizadas por personal humano, automatizando el medio y eliminando varios puestos de
trabajo, lo que pueda parecer un buen aspecto para ser tomado en cuenta cuando lo usa un
empresario
El problema se origina cuando no se toma en cuenta la gran cantidad de matices que esto
conlleva, pues se utiliza sin realizar un análisis previo, lo que conlleva a recaer en consecuencias
que podría afectar desde grandes pérdidas, por una decisión financiera, a malograr el bienestar
humano.
Por eso el trabajo desarrolla conceptos como entrenamiento algorítmico, caja negra, falta
de transparencia o vulneración de la privacidad, espacios que pueden ser vulnerados; y por otro
lado la responsabilidad de la IA y las áreas indispensables que debieran mantener el control el
factor humano, con el objetivo de no caer en implicaciones éticas.
Limitaciones
Debido a lo actual del tema y al ser la IA una tecnología en desarrollo, las limitaciones
existentes fueron sujetas al factor tiempo; pues si bien existe información de este avance, no se
puede hacer uso en su totalidad debido a lo cambiante y a su actualización continua.
Otro aspecto importante fue la consideración en casi todos los trabajos de investigación,
que la IA es un objeto clave para mejorar y agilitar procesos, sin considerar los aspectos negativos
como responsabilidad o transparencia.
Investigaciones futuras
Como se ha reiterado varias veces en el desarrollo del trabajo, la IA es una tecnología que
día a día va alcanzando nuevos espacios, nuevas atribuciones y nuevos usos, por lo tanto,
mantener un conocimiento y un estudio pausado de lo que se relaciona a ésta, seria dejar de lado
la búsqueda misma del entendimiento.
Para ir cada día complementando esos vacíos que se van generando o para estudiar a
profundidad aquellos aspectos que se pueden ir solventando, es necesario mantener un enfoque
investigativo permanente, estudiando aspectos como la caja negra, las variables y errores
algorítmicos, el entrenamiento de la IA para solventar y resolver problemas de un mayor grado
de complejidad, la responsabilidad de la IA como un ente inmaterial, la transparencia para el
desarrollo de procesos e incluso el impacto social, cultural, económico y humano del remplazo
de la IA.
CONCLUSIÓN
Aunque los beneficios como la eficacia, agilitar, mejorar e impulsar de mejor forma ciertos
aspectos suenen como algo agradable al oído de un encargado de una empresa, no siempre
DISCUSIÓN
El uso de la IA ha servido para transformar e incluso eliminar acciones que previamente
eran realizadas por personal humano, automatizando el medio y eliminando varios puestos de
trabajo, lo que pueda parecer un buen aspecto para ser tomado en cuenta cuando lo usa un
empresario
El problema se origina cuando no se toma en cuenta la gran cantidad de matices que esto
conlleva, pues se utiliza sin realizar un análisis previo, lo que conlleva a recaer en consecuencias
que podría afectar desde grandes pérdidas, por una decisión financiera, a malograr el bienestar
humano.
Por eso el trabajo desarrolla conceptos como entrenamiento algorítmico, caja negra, falta
de transparencia o vulneración de la privacidad, espacios que pueden ser vulnerados; y por otro
lado la responsabilidad de la IA y las áreas indispensables que debieran mantener el control el
factor humano, con el objetivo de no caer en implicaciones éticas.
Limitaciones
Debido a lo actual del tema y al ser la IA una tecnología en desarrollo, las limitaciones
existentes fueron sujetas al factor tiempo; pues si bien existe información de este avance, no se
puede hacer uso en su totalidad debido a lo cambiante y a su actualización continua.
Otro aspecto importante fue la consideración en casi todos los trabajos de investigación,
que la IA es un objeto clave para mejorar y agilitar procesos, sin considerar los aspectos negativos
como responsabilidad o transparencia.
Investigaciones futuras
Como se ha reiterado varias veces en el desarrollo del trabajo, la IA es una tecnología que
día a día va alcanzando nuevos espacios, nuevas atribuciones y nuevos usos, por lo tanto,
mantener un conocimiento y un estudio pausado de lo que se relaciona a ésta, seria dejar de lado
la búsqueda misma del entendimiento.
Para ir cada día complementando esos vacíos que se van generando o para estudiar a
profundidad aquellos aspectos que se pueden ir solventando, es necesario mantener un enfoque
investigativo permanente, estudiando aspectos como la caja negra, las variables y errores
algorítmicos, el entrenamiento de la IA para solventar y resolver problemas de un mayor grado
de complejidad, la responsabilidad de la IA como un ente inmaterial, la transparencia para el
desarrollo de procesos e incluso el impacto social, cultural, económico y humano del remplazo
de la IA.
CONCLUSIÓN
Aunque los beneficios como la eficacia, agilitar, mejorar e impulsar de mejor forma ciertos
aspectos suenen como algo agradable al oído de un encargado de una empresa, no siempre
Vol. 12/ Núm. 2 2025 pág. 2906
considera que estos pueden estar apegados a riesgos inminentes, puesto que no todas las empresas
buscan lo mismo o de la misma forma.
Es de aquí de donde nacen ciertos problemas que pueden afectar de forma critica a una
empresa, al dejar a cargo a un ente inmaterial algo tan importante como la toma de decisiones.
Esto desemboca en riesgos éticos como; la falta de transparencia (al no comprobarse de
forma correcta o adecuada el proceso o el análisis en si de los datos para la toma de decisiones),
la caja negra (concepto que hace referencia a la obtención de un resultado sin conocer el proceso
completo para llegar a ese resultado) o la falta de entrenamiento algorítmico (pues aún a día de
hoy el entrenamiento de la inteligencia artificial, sigue siendo sujeto de estudio, al no ser
modificado y mantenerse en casos numerosos uno basado en datos probablemente caducos),
aspectos que igualmente pueden ser vulnerados por hackers, lo que deja en estado de
desprotección.
Además, conceptos como la responsabilidad de la IA al ser un ente inmaterial, pues no se
puede actuar de forma alguna frente a algo que no puede estar presente o el mantenimiento de
ciertas áreas todavía a cargo de los seres humanos, sirven como base para limitar la actuación de
la IA.
considera que estos pueden estar apegados a riesgos inminentes, puesto que no todas las empresas
buscan lo mismo o de la misma forma.
Es de aquí de donde nacen ciertos problemas que pueden afectar de forma critica a una
empresa, al dejar a cargo a un ente inmaterial algo tan importante como la toma de decisiones.
Esto desemboca en riesgos éticos como; la falta de transparencia (al no comprobarse de
forma correcta o adecuada el proceso o el análisis en si de los datos para la toma de decisiones),
la caja negra (concepto que hace referencia a la obtención de un resultado sin conocer el proceso
completo para llegar a ese resultado) o la falta de entrenamiento algorítmico (pues aún a día de
hoy el entrenamiento de la inteligencia artificial, sigue siendo sujeto de estudio, al no ser
modificado y mantenerse en casos numerosos uno basado en datos probablemente caducos),
aspectos que igualmente pueden ser vulnerados por hackers, lo que deja en estado de
desprotección.
Además, conceptos como la responsabilidad de la IA al ser un ente inmaterial, pues no se
puede actuar de forma alguna frente a algo que no puede estar presente o el mantenimiento de
ciertas áreas todavía a cargo de los seres humanos, sirven como base para limitar la actuación de
la IA.
Vol. 12/ Núm. 2 2025 pág. 2907
REFERENCIAS
Andrea. (31 de Agosto de 2023). Ailabschool. Obtenido de ¿Qué peligros tiene la IA?:
https://ailabschool.com/que-peligros-tiene-la-ia/
Diestra, N., Alexandra, C., & Caren, C. (2021). La inteligencia artificial y la toma de decisiones
gerenciales. Valor Agregado. doi:10.17162/riva.v8i1.1631
Herrera Triguero, F. (29 de Diciembre de 2024). BBC. Obtenido de Qué se espera en 2025 de la
inteligencia artificial, el avance que marcó un antes y un después en la historia de la
tecnología: https://www.bbc.com/mundo/articles/c4gxzx0kpp6o
IBM. (s.f.). IBM. Obtenido de ¿Qué es la IA empresarial?: https://www.ibm.com/es-
es/think/topics/enterprise-ai
KlymChuk, T. (13 de Mayo de 2024). The Conversation. Obtenido de Los fallos de la IA: de
algoritmos sesgados a decisiones trágicas: https://theconversation.com/los-fallos-de-la-
ia-de-algoritmos-sesgados-a-decisiones-tragicas-226196
Medina, M. E., Valenzuela, R., & Uyasan, R. (2024). Riesgos de la inteligencia artificial
generativa en la producción de la información para la toma de decisiones. EAN.
Obtenido de
https://repository.universidadean.edu.co/server/api/core/bitstreams/d9a9edfb-a157-
4690-abfb-878176bf3c58/content
Ordóñez, A. (16 de Agosto de 2023). CESCE. Obtenido de Los grandes riesgos de la inteligencia
artificial para la humanidad y para las empresas: https://www.cesce.es/es/w/asesores-
de-pymes/riesgos-inteligencia-artificial
Páez, R. A. (2023). Impacto de la Inteligencia Artificial en la toma de decisiones financieras
corporativas. Editorial Ingenioglobal. doi: https://doi.org/10.62943/rig.v2n1.2023.61
Sánchez, F. (27 de Febrero de 2024). Nomad Webs. Obtenido de La ética de la inteligencia
artificial: ¿Quién responde por las decisiones de las máquinas?:
https://nomadwebs.com/la-etica-de-la-inteligencia-artificial-quien-responde-por-las-
decisiones-de-las-maquinas/
Simöes, C. (3 de Octubre de 2024). ITDO. Obtenido de Responsabilidad en la IA: ¿Quién da la
cara cuando falla el algoritmo?: https://www.itdo.com/blog/responsabilidad-en-la-ia-
quien-da-la-cara-cuando-falla-el-algoritmo/
Torres Cadillo, R. I. (2023). Los riesgos y los desafíos que enfrentan los trabajadores frente al
uso de la inteligencia artificial en el trabajo. Revista de Derecho Procesal del Trabajo.
doi: http://dx.doi.org/10.47308/rdpt.v6i7.778
REFERENCIAS
Andrea. (31 de Agosto de 2023). Ailabschool. Obtenido de ¿Qué peligros tiene la IA?:
https://ailabschool.com/que-peligros-tiene-la-ia/
Diestra, N., Alexandra, C., & Caren, C. (2021). La inteligencia artificial y la toma de decisiones
gerenciales. Valor Agregado. doi:10.17162/riva.v8i1.1631
Herrera Triguero, F. (29 de Diciembre de 2024). BBC. Obtenido de Qué se espera en 2025 de la
inteligencia artificial, el avance que marcó un antes y un después en la historia de la
tecnología: https://www.bbc.com/mundo/articles/c4gxzx0kpp6o
IBM. (s.f.). IBM. Obtenido de ¿Qué es la IA empresarial?: https://www.ibm.com/es-
es/think/topics/enterprise-ai
KlymChuk, T. (13 de Mayo de 2024). The Conversation. Obtenido de Los fallos de la IA: de
algoritmos sesgados a decisiones trágicas: https://theconversation.com/los-fallos-de-la-
ia-de-algoritmos-sesgados-a-decisiones-tragicas-226196
Medina, M. E., Valenzuela, R., & Uyasan, R. (2024). Riesgos de la inteligencia artificial
generativa en la producción de la información para la toma de decisiones. EAN.
Obtenido de
https://repository.universidadean.edu.co/server/api/core/bitstreams/d9a9edfb-a157-
4690-abfb-878176bf3c58/content
Ordóñez, A. (16 de Agosto de 2023). CESCE. Obtenido de Los grandes riesgos de la inteligencia
artificial para la humanidad y para las empresas: https://www.cesce.es/es/w/asesores-
de-pymes/riesgos-inteligencia-artificial
Páez, R. A. (2023). Impacto de la Inteligencia Artificial en la toma de decisiones financieras
corporativas. Editorial Ingenioglobal. doi: https://doi.org/10.62943/rig.v2n1.2023.61
Sánchez, F. (27 de Febrero de 2024). Nomad Webs. Obtenido de La ética de la inteligencia
artificial: ¿Quién responde por las decisiones de las máquinas?:
https://nomadwebs.com/la-etica-de-la-inteligencia-artificial-quien-responde-por-las-
decisiones-de-las-maquinas/
Simöes, C. (3 de Octubre de 2024). ITDO. Obtenido de Responsabilidad en la IA: ¿Quién da la
cara cuando falla el algoritmo?: https://www.itdo.com/blog/responsabilidad-en-la-ia-
quien-da-la-cara-cuando-falla-el-algoritmo/
Torres Cadillo, R. I. (2023). Los riesgos y los desafíos que enfrentan los trabajadores frente al
uso de la inteligencia artificial en el trabajo. Revista de Derecho Procesal del Trabajo.
doi: http://dx.doi.org/10.47308/rdpt.v6i7.778