Die vertrauenswürdige KI wurde diesen Monat von Paulo Quaresma und Vítor Nogueira, Dozenten an der Fakultät für Informatik der Universität Évora(UÉ), zusammen mit Jianbiao Dai von der Universität São José in Macau, einer halbautonomen Region Chinas, entwickelt.

"Wir haben weder die Absicht, noch halten wir es für möglich, wünschenswert oder vorteilhaft, medizinisches Fachpersonal in irgendeiner Weise zu ersetzen", sondern es wird "ein Werkzeug zur Entscheidungsunterstützung" sein, so Paulo Quaresma gegenüber Lusa.

Laut dem Professor und Partner des Unternehmens wird das von Trustworthy AI entwickelte KI-System "in der Lage sein, [dem medizinischen Fachpersonal] zu erklären, warum ein bestimmter Diagnose- oder Therapievorschlag" für einen Patienten getroffen wurde.

Das KI-System wird "die Symptome, die Krankengeschichte, den Kontext und alle Merkmale" des Patienten analysieren und dann den Ärzten oder Krankenschwestern "mit einem gewissen Maß an Vertrauen erklären, warum es den Vorschlag macht", sagte er.

Paulo Quaresma wies darauf hin, dass die Lösung "eine Lerngeschichte mit vielen Situationen" haben wird, so dass "sie die medizinischen Fachkräfte sogar auf Situationen aufmerksam machen kann, die sie im Moment vielleicht nicht berücksichtigen".

Bei diesem System geht es eindeutig darum, Zeit zu sparen und gleichzeitig zur Verbesserung der Gesundheitsversorgung beizutragen", sagte er.

Dem Beamten zufolge basiert das System, das zur Unterstützung von Fachkräften in Krankenhäusern, Gesundheitszentren und Pflegeheimen eingesetzt werden kann, auf überprüfbaren, erklärbaren und ethischen KI-Methoden, um ihm "ein höheres Maß an Vertrauen" zu verleihen.

Mit anderen Worten, sie wird "einerseits in der Lage sein, zunächst genau zu erklären, warum sie zu einer bestimmten Antwort gekommen ist", und andererseits prüfbar sein, so dass "jemand von außen mit Genehmigung eine Prüfung durchführen kann, um den gesamten Prozess zu verstehen und genau zu identifizieren", erklärte er.

Die vertrauenswürdige KI wurde bereits in einem Raum des Wissenschafts- und Technologieparks Alentejo(PACT) installiert und arbeitet nun an Anträgen auf EU-Förderung im Rahmen des Regionalprogramms Alentejo 2030 und an der Unterstützung in Macau.

Der Professor und Partner betonte, dass das Unternehmen beabsichtigt, im nächsten Jahr ein Pilotprojekt im Alentejo und ein weiteres in Macau zu entwickeln, um die Lösung zu testen und zu bewerten, so dass sie bis Ende 2026 auf andere Standorte ausgeweitet werden kann.