- -
UPV
 

Proyecto HAIFEL

El Instituto VRAIN trabaja en el desarrollo de una inteligencia artificial que integre los valores de las personas en la toma de decisiones

[ 02/12/2024 ]

Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) trabaja en la investigación de una inteligencia artificial (IA) que se adapte a las personas y sus valores, sus preferencias a la hora de tomar decisiones y que sea ética y explicable, es decir que explique por qué ha tomado esa decisión.

El proyecto HAIFEL (Human-centred Artificial Intelligence for Everyday Life) es un proyecto PROMETEO, financiado por la Generalitat Valenciana, que está liderado por el investigador de VRAIN y catedrático de la UPV, José Such, y la investigadora de VRAIN y catedrática de la UPV, Eva Onaindía, ambos investigadores principales del proyecto.

“La inteligencia artificial (IA) está cada vez más integrada en nuestra vida cotidiana, desde asistentes de IA hasta recomendaciones con sistemas de apoyo en la toma de decisiones, inteligentes y autónomos. Por lo que es fundamental que estos sistemas basados en IA se adapten a nosotros, las personas, nuestros valores y preferencias, para que podamos sacar el máximo partido de la IA y minimizar los riesgos asociados a su uso”, explica el investigador de VRAIN, José Such.

Y añade que para ello, la IA “debe comportarse éticamente y respetar nuestra intimidad y razonar, aprender y adaptarse a nuestras preferencias y valores, además de explicar lo que hace y por qué de una manera en la que las personas lo podamos entender y actuar en consecuencia, independientemente de los conocimientos que tengamos en inteligencia artificial”.

La investigadora Eva Onaindía añade que “para abordar el diseño de sistemas de soporte a la decisión adaptados a las preferencias y valores humanos, es necesario explorar y combinar técnicas de IA capaces de simular la inteligencia y el comportamiento humano, que permitan emular el proceso de pensamiento humano. Solo de ese modo, se podrá construir un sistema de inteligencia artificial que las personas perciban alineado con valores humanos y principios éticos".

Noticias destacadas


Curso internacional de verano en Shanghái Curso internacional de verano en Shanghái
Alojamiento y manutención cubiertos por la Universidad Politécnica de Shanghái
Nuevo sistema de detección temprana del autismo Nuevo sistema de detección temprana del autismo
Un equipo del Instituto Human-Tech desarrolla un nuevo sistema de detección temprana del Trastorno del Espectro Autista (TEA) con realidad virtual e inteligencia artificial
¡Histórico! ¡Histórico!
UPV Léleman Conqueridor se mete en semifinales del playoff por el título de Liga y será el primer representante de la UPV en disputar una competición deportiva profesional europea
CPI Circuito Abierto CPI Circuito Abierto
El parque científico de la Universitat Politècnica de València presenta un recorrido lúdico sobre ciencia y tecnología para todos los públicos
Transferir conocimiento Transferir conocimiento
DINA-ITC, el primer programa de dinamización y formación a gran escala sobre transferencia de conocimiento genera, a través de INGENIO (CSIC-UPV), la mayor base de conocimiento en abierto sobre valorización social del conocimiento en España
Claustro Universitario Claustro Universitario
Consulta los resultados de las elecciones del 27 y 28 de marzo que suponen la renovación de los miembros electos



EMAS upv