TY - JOUR A1 - Puppe, Frank T1 - Gesellschaftliche Perspektiven einer fachspezifischen KI für automatisierte Entscheidungen JF - Informatik Spektrum N2 - Die künstliche Intelligenz (KI) entwickelt sich rasant und hat bereits eindrucksvolle Erfolge zu verzeichnen, darunter übermenschliche Kompetenz in den meisten Spielen und vielen Quizshows, intelligente Suchmaschinen, individualisierte Werbung, Spracherkennung, -ausgabe und -übersetzung auf sehr hohem Niveau und hervorragende Leistungen bei der Bildverarbeitung, u. a. in der Medizin, der optischen Zeichenerkennung, beim autonomen Fahren, aber auch beim Erkennen von Menschen auf Bildern und Videos oder bei Deep Fakes für Fotos und Videos. Es ist zu erwarten, dass die KI auch in der Entscheidungsfindung Menschen übertreffen wird; ein alter Traum der Expertensysteme, der durch Lernverfahren, Big Data und Zugang zu dem gesammelten Wissen im Web in greifbare Nähe rückt. Gegenstand dieses Beitrags sind aber weniger die technischen Entwicklungen, sondern mögliche gesellschaftliche Auswirkungen einer spezialisierten, kompetenten KI für verschiedene Bereiche der autonomen, d. h. nicht nur unterstützenden Entscheidungsfindung: als Fußballschiedsrichter, in der Medizin, für richterliche Entscheidungen und sehr spekulativ auch im politischen Bereich. Dabei werden Vor- und Nachteile dieser Szenarien aus gesellschaftlicher Sicht diskutiert. KW - Künstliche Intelligenz KW - Ethik KW - Entscheidungsfindung Y1 - 2022 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-324197 SN - 0170-6012 VL - 45 IS - 2 ER - TY - JOUR A1 - Herm, Lukas-Valentin A1 - Janiesch, Christian A1 - Fuchs, Patrick T1 - Der Einfluss von menschlichen Denkmustern auf künstliche Intelligenz – eine strukturierte Untersuchung von kognitiven Verzerrungen JF - HMD Praxis der Wirtschaftsinformatik N2 - Künstliche Intelligenz (KI) dringt vermehrt in sensible Bereiche des alltäglichen menschlichen Lebens ein. Es werden nicht mehr nur noch einfache Entscheidungen durch intelligente Systeme getroffen, sondern zunehmend auch komplexe Entscheidungen. So entscheiden z. B. intelligente Systeme, ob Bewerber in ein Unternehmen eingestellt werden sollen oder nicht. Oftmals kann die zugrundeliegende Entscheidungsfindung nur schwer nachvollzogen werden und ungerechtfertigte Entscheidungen können dadurch unerkannt bleiben, weshalb die Implementierung einer solchen KI auch häufig als sogenannte Blackbox bezeichnet wird. Folglich steigt die Bedrohung, durch unfaire und diskriminierende Entscheidungen einer KI benachteiligt behandelt zu werden. Resultieren diese Verzerrungen aus menschlichen Handlungen und Denkmustern spricht man von einer kognitiven Verzerrung oder einem kognitiven Bias. Aufgrund der Neuigkeit dieser Thematik ist jedoch bisher nicht ersichtlich, welche verschiedenen kognitiven Bias innerhalb eines KI-Projektes auftreten können. Ziel dieses Beitrages ist es, anhand einer strukturierten Literaturanalyse, eine gesamtheitliche Darstellung zu ermöglichen. Die gewonnenen Erkenntnisse werden anhand des in der Praxis weit verbreiten Cross-Industry Standard Process for Data Mining (CRISP-DM) Modell aufgearbeitet und klassifiziert. Diese Betrachtung zeigt, dass der menschliche Einfluss auf eine KI in jeder Entwicklungsphase des Modells gegeben ist und es daher wichtig ist „mensch-ähnlichen“ Bias in einer KI explizit zu untersuchen. N2 - Artificial intelligence (AI) is increasingly penetrating sensitive areas of everyday human life, resulting in the ability to support humans in complex and difficult tasks. The result is that intelligent systems are capable of handling not only simple but also complex tasks. For example, this includes deciding whether an applicant should be hired or not. Oftentimes, this decision-making can be difficult to comprehend, and consequently incorrect decisions may remain undetected, which is why these implementations are often referred to as a so-called black box. Consequently, there is the threat of unfair and discriminatory decisions by an intelligent system. If these distortions result from human actions and thought patterns, it is referred to as a cognitive bias. However, due to the novelty of this subject, it is not yet apparent which different cognitive biases can occur within an AI project. The aim of this paper is to provide a holistic view through a structured literature review. Our insights are processed and classified according to the Cross-Industry Standard Process for Data Mining (CRISP-DM) model, which is widely used in practice. This review reveals that human influence on an AI is present in every stage of the model’s development process and that “human-like” biases in an AI must be examined explicitly. T2 - The impact of human thinking on artificial intelligence – a structured investigation of cognitive biases KW - Menschliche Denkmuster KW - Maschinelles Lernen KW - Künstliche Intelligenz KW - Literaturanalyse KW - cognitive biases KW - machine learning KW - artificial intelligence KW - literature review Y1 - 2022 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-323787 SN - 1436-3011 VL - 59 IS - 2 ER - TY - JOUR A1 - Jordan, Martin C. A1 - Jovic, Sebastian A1 - Gilbert, Fabian A1 - Kunz, Andreas A1 - Ertl, Maximilian A1 - Strobl, Ute A1 - Jakubietz, Rafael G. A1 - Jakubietz, Michael G. A1 - Meffert, Rainer H. A1 - Fuchs, Konrad F. T1 - Qualitätssteigerung der Abrechnungsprüfung durch Smartphone-basierte Fotodokumentation in der Unfall-, Hand-, und Plastischen Chirurgie JF - Der Unfallchirurg N2 - Hintergrund Die Fotodokumentation von offenen Frakturen, Wunden, Dekubitalulzera, Tumoren oder Infektionen ist ein wichtiger Bestandteil der digitalen Patientenakte. Bisher ist unklar, welchen Stellenwert diese Fotodokumentation bei der Abrechnungsprüfung durch den Medizinischen Dienst der Krankenkassen (MDK) hat. Fragestellung Kann eine Smartphone-basierte Fotodokumentation die Verteidigung von erlösrelevanten Diagnosen und Prozeduren sowie der Verweildauer verbessern? Material und Methoden Ausstattung der Mitarbeiter mit digitalen Endgeräten (Smartphone/Tablet) in den Bereichen Notaufnahme, Schockraum, OP, Sprechstunden sowie auf den Stationen. Retrospektive Auswertung der Abrechnungsprüfung im Jahr 2019 und Identifikation aller Fallbesprechungen, in denen die Fotodokumentation eine Erlösveränderung bewirkt hat. Ergebnisse Von insgesamt 372 Fallbesprechungen half die Fotodokumentation in 27 Fällen (7,2 %) zur Bestätigung eines Operationen- und Prozedurenschlüssels (OPS) (n = 5; 1,3 %), einer Hauptdiagnose (n = 10; 2,7 %), einer Nebendiagnose (n = 3; 0,8 %) oder der Krankenhausverweildauer (n = 9; 2,4 %). Pro oben genanntem Fall mit Fotodokumentation ergab sich eine durchschnittliche Erlössteigerung von 2119 €. Inklusive Aufwandpauschale für die Verhandlungen wurde somit ein Gesamtbetrag von 65.328 € verteidigt. Diskussion Der Einsatz einer Smartphone-basierten Fotodokumentation kann die Qualität der Dokumentation verbessern und Erlöseinbußen bei der Abrechnungsprüfung verhindern. Die Implementierung digitaler Endgeräte mit entsprechender Software ist ein wichtiger Teil des digitalen Strukturwandels in Kliniken. N2 - Background Photographic documentation of wounds, decubitus ulcers, tumors, open fractures and infections is an important part of digital patient files. It is unclear whether the photographic documentation has an effect on medical accounting with health insurance companies. Objective It was hypothesized that Smartphone-based systematic photographic documentation can improve the confirmation of proceeds-relevant diagnoses and procedures as well as the duration. Material and methods Staff in the emergency room, operating theater, outpatient clinic and on the wards were equipped with digital devices (Smartphone, tablet) including a photo-app. Medical accounting with the health insurance companies and identification of all case conferences in which the photographic documentation had effected a change in proceeds were analyzed for 2019 in a retrospective manner. Results Overall, 372 cases were discussed of which 27 cases were affected by the digital photographic documentation. Photographic documentation was used for clarification of the operative procedure (n = 5), primary diagnosis (n = 10), secondary diagnosis (n = 3), and length of hospitalization (n = 9). An average of 2119 € was negotiated and added per case affected by photographic documentation. Hereby, a level 1 trauma center gained an estimated 65,328 € in revenue. Discussion The use of Smartphone based photographic documentation can improve the overall quality of patient files and thus avoid loss of revenue. The implementation of digital devices with corresponding software is an important component of the digital structural change in hospitals. KW - Digitalisierung KW - Gesundheits-App KW - Künstliche Intelligenz KW - Plattform KW - Strukturwandel KW - artificial intelligence KW - database KW - digital transformation KW - photo app KW - surgery Y1 - 2020 U6 - http://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:20-opus-232415 SN - 0177-5537 VL - 124 ER -