Trustworthy AI fue creada este mes por Paulo Quaresma y Vítor Nogueira, profesores del Departamento de Informática de la Universidad de Évora(UÉ), junto con Jianbiao Dai, de la Universidad de São José, en Macao, región semiautónoma de China.

"No pretendemos, ni creemos que sea posible, deseable o ventajoso sustituir de ninguna manera a los profesionales sanitarios", sino que será "una herramienta de apoyo a la toma de decisiones", explicó Paulo Quaresma a Lusa.

Según el profesor y socio de la empresa, el sistema de IA que está desarrollando Trustworthy AI "tendrá la capacidad de explicar [a los profesionales sanitarios] por qué se ha llegado a una determinada propuesta diagnóstica o terapéutica" para un paciente.

El sistema de IA analizará "los síntomas, la historia clínica, el contexto y todas las características" del paciente y luego explicará a los médicos o enfermeros, "con niveles de confianza, por qué hace esa sugerencia", explicó.

Paulo Quaresma señaló que la solución tendrá "un historial de aprendizaje con muchas situaciones", por lo que "podrá incluso alertar al profesional sanitario de situaciones que quizá no esté teniendo en cuenta en ese momento".

Con este sistema, "está claro que se trata de ahorrar tiempo y también de poder contribuir a mejorar la prestación de los servicios sanitarios", dijo.

Según el funcionario, el sistema, que podrá utilizarse como apoyo a los profesionales de hospitales, centros de salud y residencias de ancianos, se basa en metodologías de IA auditables, explicables y éticas para darle "un mayor grado de confianza".

Es decir, tendrá "la capacidad, por un lado, de empezar explicando exactamente por qué ha llegado a una determinada respuesta" y de ser auditable para que "alguien desde fuera pueda, con autorización, hacer una auditoría para entender e identificar exactamente cuál es todo el proceso", explicó.

Ya instalada en un espacio del Parque Científico y Tecnológico del Alentejo(PACT), Trustworthy AI trabaja ahora en las solicitudes de financiación de la UE del programa regional Alentejo 2030 y de apoyo en Macao.

El profesor y socio destacó que la empresa pretende desarrollar un proyecto piloto en Alentejo y otro en Macao durante el próximo año para probar y evaluar la solución, de modo que a finales de 2026 pueda extenderse a otras localidades.