Eine Studie der Polytechnischen Universität Valencia und des Regionalbüros für Europa der Weltgesundheitsorganisation (WHO Europa) kommt zu dem Schluss, dass der Einsatz künstlicher Intelligenz (KI) in der psychiatrischen Versorgung und Forschung zwar «Potenzial» hat, derzeit aber «erhebliche Mängel» aufweist, die auf eine «zu rasche Einführung neuer KI-Modelle» hindeuten könnten, «die erst noch auf ihre Praxistauglichkeit hin überprüft werden müssen».
Im Jahr 2021 lebten mehr als 150 Millionen Menschen in Europa mit einer psychischen Erkrankung. In den letzten Jahren hat sich die Situation durch die COVID-19-Pandemie noch verschärft. Die Menschen haben weniger Zugang zu Diensten, und zunehmender Stress, ungünstige wirtschaftliche Bedingungen, Konflikte und Gewalt haben deutlich gemacht, wie gefährdet die psychische Gesundheit sein kann.
Parallel dazu hat die KI eine Revolution in der Medizin und im Gesundheitswesen ausgelöst. KI wird als neuartiges Instrument für die Planung von psychosozialen Diensten sowie für die Erkennung und Überwachung von psychischen Problemen bei Einzelpersonen und Bevölkerungsgruppen angesehen.
KI-basierte Tools können digitalisierte Gesundheitsdaten (die in einer Vielzahl von Formaten vorliegen, z. B. elektronische Krankenakten, medizinische Bilder und handschriftliche klinische Notizen) nutzen, um Aufgaben zu automatisieren, Kliniker zu unterstützen und das Verständnis für die Ursachen komplexer Erkrankungen zu vertiefen.
«Angesichts des zunehmenden Einsatzes von KI in der Gesundheitsversorgung ist es wichtig, den aktuellen Stand der KI-Anwendung für die Forschung zur psychischen Gesundheit zu bewerten, um über Trends, Lücken, Chancen und Herausforderungen zu informieren», erklärte David Novillo-Ortiz aus Spanien, Regionalberater für Daten und digitale Gesundheit bei der WHO Europa und Mitautor der Studie.
Die Forscher untersuchten den Einsatz von KI für Studien über psychische Erkrankungen zwischen 2016 und 2021. In ihrer Arbeit stellten sie fest, dass der Einsatz von KI-Anwendungen in der Forschung zur psychischen Gesundheit «unausgewogen» ist und hauptsächlich zur Untersuchung von depressiven Störungen, Schizophrenie und anderen psychotischen Störungen verwendet wird.
«Dies weist auf eine wichtige Lücke in unserem Verständnis darüber hin, wie sie zur Untersuchung anderer psychischer Erkrankungen eingesetzt werden können», sagt Ledia Lazeri, Regionalberaterin für psychische Gesundheit bei der WHO Europa.
Die Studie fand «große Mängel» in der Art und Weise, wie KI-Anwendungen Statistiken verarbeiten, «seltene» Datenvalidierung und «wenig» Bewertung des Risikos von Verzerrungen.
Darüber hinaus gibt es weitere Aspekte, die den Forschern «Sorgen bereiten», wie etwa die «mangelnde Transparenz bei der Berichterstattung über KI-Modelle, die deren Replizierbarkeit untergräbt». Der Studie zufolge sind die Daten und Modelle nach wie vor weitgehend geschützt, und die Zusammenarbeit zwischen den Forschern ist mangelhaft».
«Die mangelnde Transparenz und die methodischen Mängel sind besorgniserregend, da sie die praktische und sichere Anwendung der KI verzögern. Darüber hinaus scheint die Datentechnik für KI-Modelle übersehen oder schlecht verstanden zu werden, und die Daten werden oft nicht richtig verwaltet. Diese gravierenden Mängel könnten auf eine zu schnelle Förderung neuer KI-Modelle hindeuten, ohne deren Praxistauglichkeit zu prüfen», erklärte Novillo-Ortiz.
Antonio Martínez-Millana, Assistenzprofessor an der Polytechnischen Universität von Valencia und Mitverfasser der Studie, fügte hinzu, dass «künstliche Intelligenz der Eckpfeiler der nächsten digitalen Revolution ist».
«In dieser Studie konnten wir erahnen, was in den kommenden Jahren auf uns zukommen wird, und das wird die Gesundheitssysteme dazu veranlassen, ihre Strukturen und Verfahren anzupassen, um bei der Bereitstellung psychosozialer Dienste voranzukommen», bemerkte er.
Die Studie wurde auf einer von der WHO Europa am 7. Dezember organisierten Veranstaltung vorgestellt, auf der Experten aus ganz Europa erörterten, wie KI-Modelle realistisch für die Planung von psychosozialen Diensten eingesetzt werden können und welche Sicherheits- und Erfolgsfaktoren es gibt, z. B. die Einbeziehung von Menschen mit psychischen Störungen in den Entwicklungsprozess.
Nachrichtenquelle: (EUROPA PRESS)
