Trustworthy AI skapades denna månad av Paulo Quaresma och Vítor Nogueira, föreläsare vid institutionen för informatik vid University of Évora(UÉ), tillsammans med Jianbiao Dai, från University of São José, i Macau, en halvautonom region i Kina.

"Vi har inte för avsikt, och vi tror inte heller att det är möjligt, önskvärt eller fördelaktigt att ersätta vårdpersonal på något sätt", men det kommer att vara "ett verktyg för beslutsstöd", sade Paulo Quaresma till Lusa.

Enligt professorn och partnern i företaget kommer det AI-system som utvecklas av Trustworthy AI att "ha förmågan att förklara [för vårdpersonal] varför man har kommit fram till ett visst diagnostiskt eller terapeutiskt förslag" för en patient.

AI-systemet kommer att analysera "patientens symtom, sjukdomshistoria, sammanhang och alla egenskaper" och sedan förklara för läkare eller sjuksköterskor, "med hög grad av säkerhet, varför det föreslår just detta", säger han.

Paulo Quaresma påpekade att lösningen kommer att ha "en inlärningshistorik med många situationer", så "den kan till och med varna vårdpersonalen för situationer som de kanske inte tar hänsyn till för tillfället".

Med detta system "är det helt klart en fråga om att spara tid och även kunna bidra till att förbättra tillhandahållandet av hälso- och sjukvårdstjänster", sade han.

Enligt tjänstemannen bygger systemet, som kan användas för att stödja vårdpersonal på sjukhus, vårdcentraler och äldreboenden, på reviderbara, förklarbara och etiska AI-metodiker för att ge det "en högre grad av förtroende".

Med andra ord kommer den att ha "förmågan att börja med att förklara exakt varför den har kommit fram till ett visst svar" och att vara granskningsbar så att "någon utifrån, med tillstånd, kan genomföra en granskning för att förstå och identifiera exakt hur hela processen ser ut", förklarade han.

Trustworthy AI har redan installerats i ett utrymme på Alentejo Science and Technology Park(PACT) och arbetar nu med ansökningar om EU-finansiering från det regionala programmet Alentejo 2030 och stöd i Macao.

Professorn och partnern betonade att företaget har för avsikt att utveckla ett pilotprojekt i Alentejo och ett annat i Macao under nästa år för att testa och utvärdera lösningen, så att den i slutet av 2026 kan utvidgas till andra platser.