Zusammenfassung
Die vielfältigen neuen Möglichkeiten Künstlicher Intelligenz (KI) faszinieren in Wirtschaft und Gesellschaft gleichermaßen – von der Produktion bis hin zu Bereichen, die von lebensverändernden und risikoreichen Entscheidungen geprägt sind, wie dem Gesundheitswesen oder auch dem autonomen Fahren. Mit dem praktischen Einsatz steigen die Anforderungen an KI-Systeme im Hinblick auf ihre Robustheit und Resilienz.
Chapter PDF
Similar content being viewed by others
Literatur
Artrith, Nongnuch; Butler, Keith T.; Coudert, François-Xavier; Han, Seungwu; Isayev, Olexandr; Jain, Anubhav; Walsh, Aron (2021): Best practices in machine learning for chemistry. In: Nat. Chem. 13 (6), S. 505–508. https://doi.org/10.1038/s41557-021-00716-z.
Bainbridge, Lisanne (1983): Ironies of automation. In: Automatica 19 (6), S. 775–779. https://doi.org/10.1016/0005-1098(83)90046-8.
Brock, Jürgen Kai-Uwe; Wangenheim, Florian von (2019): Demystifying AI: What Digital Transformation Leaders Can Teach You about Realistic Artificial Intelligence. In: California Management Review 61 (4), S. 110–134. https://doi.org/10.1177/1536504219865226.
Brooks, Rodney (2021): An Inconvenient Truth About AI. In: IEEE Spectrum, 29.09.2021. Online verfügbar unter https://spectrum.ieee.org/rodney-brooks-ai, zuletzt geprüft am 23.06.2022.
Bundesministerium für Bildung und Forschung (BMBF) (Hrsg.) (2021): Vertrauenswürdige Elektronik. Forschung und Innovation für technologische Souveränität. Online verfügbar unter https://www.bmbf.de/SharedDocs/Publikationen/de/bmbf/5/138384_Vertrauenswuerdige_Elektronik.pdf?__blob=publicationFile&v=3, zuletzt geprüft am 22.06.2022.
Bundesministerium für Wirtschaft und Energie (BMWi) (Hrsg.) (2020): Einsatz von Künstlicher Intelligenz in der Deutschen Wirtschaft. Stand der KI-Nutzung im Jahr 2019. Online verfügbar unter https://www.bmwk.de/Redaktion/DE/Publikationen/Wirtschaft/einsatz-von-ki-deutsche-wirtschaft.pdf?__blob=publicationFile&v=8, zuletzt geprüft am 05.05.2022.
Bundesverband Digitale Wirtschaft (BVDW) e.V. (Hrsg.) (2021): KI-Monitor 2021. Status quo der Künstlichen Intelligenz in Deutschland (Gutachten). Online verfügbar unter https://www.iwkoeln.de/fileadmin/user_upload/Studien/Gutachten/PDF/2021/KI_Monitor_Bericht_2021.pdf, zuletzt geprüft am 05.05.2022.
Burciaga, Aaron (2021): How To Build Responsible AI, Step 3: Resilience. Online verfügbar unter https://www.forbes.com/sites/forbestechcouncil/2021/12/20/how-to-build-responsible-ai-step-3-resilience/?sh=367a2bc47559, zuletzt aktualisiert am 20.12.2021, zuletzt geprüft am 05.05.2022.
Cohen, Jérémie F.; Korevaar, Daniël A.; Altman, Douglas G.; Bruns, David E.; Gatsonis, Constantine A.; Hooft, Lotty et al (2016): STARD 2015 guidelines for reporting diagnostic accuracy studies: explanation and elaboration. In: BMJ open 6 (11), e012799. https://doi.org/10.1136/bmjopen-2016-012799.
COVID Precise (o. J.): Precise Risk Estimation to optimise COVID-19 Care for Infected or Suspected patients in diverse sEttings. Online verfügbar unter https://www.covprecise.org/, zuletzt geprüft am 23.06.2022.
Cruz Rivera, Samantha; Liu, Xiaoxuan; Chan, An-Wen; Denniston, Alastair K.; Calvert, Melanie J. (2020): Guidelines for clinical trial protocols for interventions involving artificial intelligence: the SPIRIT-AI extension. In: Nat Med 26 (9), S. 1351–1363. https://doi.org/10.1038/s41591-020-1037-7.
Denkfabrik Digitale Arbeitsgesellschaft (2022): KITQAR entwickelt Qualitätsstandards für KI-Test- und Trainingsdaten. Online verfügbar unter https://www.denkfabrik-bmas.de/schwerpunkte/kuenstliche-intelligenz/kitqar-entwickelt-qualitaetsstandards-fuer-ki-test-und-trainingsdaten, zuletzt geprüft am 23.06.2022.
Eigner, Oliver; Eresheim, Sebastian; Kieseberg, Peter; Klausner, Lukas Daniel; Pirker, Martin; Priebe, Torsten et al. (2021): Towards Resilient Artificial Intelligence: Survey and Research Issues. In: 2021 IEEE International Conference on Cyber Security and Resilience (CSR). 2021 IEEE International Conference on Cyber Security and Resilience (CSR). Rhodes, Greece, 26.07.2021 - 28.07.2021: IEEE, S. 536–542. Online verfügbar unter https://arxiv.org/ftp/arxiv/papers/2109/2109.08904.pdf, zuletzt geprüft am 05.05.2022.
Finlay, Steven (2021): Artificial Intelligence and Machine Learning for Business. A No-Nonsense Guide to Data Driven Technologies. 4th New edition. Preston, GB: Relativistic; Kindle Direct Publishing (KDP).
Fraunhofer-Institut für Intelligente Analyse und Informationssysteme IAIS (Hrsg.) (2018): Künstliche Intelligenz in Deutschland. Ein systematischer Katalog von Anwendungen des maschinellen Lernens. Online verfügbar unter https://www.bigdata-ai.fraunhofer.de/content/dam/bigdata/de/documents/Publikationen/Studie_KI_in_De_20181107.pdf, zuletzt geprüft am 05.05.2022.
Freeman, Karoline; Geppert, Julia; Stinton, Chris; Todkill, Daniel; Johnson, Samantha; Clarke, Aileen; Taylor-Phillips, Sian (2021): Use of artificial intelligence for image analysis in breast cancer screening programmes: systematic review of test accuracy. In: BMJ 374, n1872. https://doi.org/10.1136/bmj.n1872.
Goodfellow, Ian J.; Shlens, Jonathon; Szegedy, Christian (2014): Explaining and Harnessing Adversarial Examples. Online verfügbar unter https://arxiv.org/pdf/1412.6572.
Grabowicz, Przemyslaw A.; Perello, Nicholas; Takatsu, Kenta (2019): Resilience of Supervised Learning Algorithms to Discriminatory Data Perturbations. Online verfügbar unter https://arxiv.org/pdf/1912.08189.
Gupta, Abhishek (2021): Building for Resiliency in AI Systems - Towards Data Science. Online verfügbar unter https://towardsdatascience.com/building-for-resiliency-in-ai-systems-24eed076d3d6, zuletzt geprüft am 05.05.2022.
Heaven, Will Douglas (2021): Hundreds of AI tools have been built to catch covid. None of them helped. Online verfügbar unter https://www-technologyreview-com.cdn.ampproject.org/c/s/www.technologyreview.com/2021/07/30/1030329/machine-learning-ai-failed-covid-hospital-diagnosis-pandemic/amp/, zuletzt geprüft am 05.05.2022.
IBM Developer (2020): IBM API Hub. Online verfügbar unter https://developer.ibm.com/apis/catalog/dataquality4ai--data-quality-for-ai/Introduction/, zuletzt geprüft am 23.06.2022.
IBM Research Trusted AI (2022): AI Fairness 360. Online verfügbar unter https://aif360.mybluemix.net/, zuletzt aktualisiert am 23.06.2022, zuletzt geprüft am 23.06.2022.
Independent High Level Expert Group on Artificial Intelligence (Hrsg.) (2019): A Definition of AI: Main Capabilities and Disciplines. Online verfügbar unter https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341., zuletzt geprüft am 05.05.2022.
Kesari, Ganes (2021): AI Accuracy Is Overrated: How Even A “Wrong” Model Can Transform Your Business. In: Forbes, 21.01.2021. Online verfügbar unter https://www.forbes.com/sites/ganeskesari/2021/01/21/accuracy-isnt-everything-how-even-a-wrong-ai-model-can-transform-your-business/?sh=447c1e1a7083, zuletzt geprüft am 23.06.2022.
Kraus, Tom; Ganschow, Lene; Eisenträger, Marlene; Wischmann, Steffen (2021): Erklärbare KI - Anforderungen, Anwendungsfälle und Lösungen. Hrsg. von Steffen Wischmann. Online verfügbar unter https://www.digitale-technologien.de/DT/Redaktion/DE/Downloads/Publikation/KI-Inno/2021/Studie_Erklaerbare_KI.html, zuletzt geprüft am 13.08.2021.
Liu, Xiaoxuan; Cruz Rivera, Samantha; Moher, David; Calvert, Melanie J.; Denniston, Alastair K. (2020): Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI extension. In: Nat Med 26 (9), S. 1364–1374. https://doi.org/10.1038/s41591-020-1034-x.
Nicolae, Maria-Irina; Sinn, Mathieu; Tran, Minh Ngoc; Buesser, Beat; Rawat, Ambrish; Wistuba, Martin et al (2018): Adversarial Robustness Toolbox v1.0.0. Online verfügbar unter https://arxiv.org/pdf/1807.01069.pdf, zuletzt geprüft am 05.05.2022.
Petrilli, Alexander; Shing-hon, Lau (2019): Measuring Resilience in Artificial Intelligence and Machine Learning Systems. Carnegie Mellon Software Engineering Institute (Carnegie Mellon University’s Software Engineering Institute Blog). Online verfügbar unter http://insights.sei.cmu.edu/blog/measuring-resilience-in-artificial-intelligence-and-machine-learning-systems/, zuletzt geprüft am 06.05.2022.
Ren, Kui; Zheng, Tianhang; Qin, Zhan; Liu, Xue (2020): Adversarial Attacks and Defenses in Deep Learning. In: Engineering 6 (3), S. 346–360. https://doi.org/10.1016/j.eng.2019.12.012.
Roberts, Michael; Driggs, Derek; Thorpe, Matthew; Gilbey, Julian; Yeung, Michael; Ursprung, Stephan et al (2021): Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans. In: Nat Mach Intell 3 (3), S. 199–217. https://doi.org/10.1038/s42256-021-00307-0.
Sambasivan, Nithya (2022): All equation, no human: the myopia of AI models. In: Interactions 29 (2), S. 78–80. https://doi.org/10.1145/3516515.
Valverde-Albacete, Francisco J.; Peláez-Moreno, Carmen (2014): 100% classification accuracy considered harmful: the normalized information transfer factor explains the accuracy paradox. In: PloS one 9 (1), e84217. https://doi.org/10.1371/journal.pone.0084217.
Vardi, Moshe Y. (2020): Efficiency vs. resilience. In: Commun. ACM 63 (5), S. 9. https://doi.org/10.1145/3388890.
Velektronik (o. J.): Die Plattform für vertrauenswürdige Elektronik. Online verfügbar unter https://www.velektronik.de/, zuletzt geprüft am 23.06.2022.
Wynants, Laure; van Calster, Ben; Collins, Gary S.; Riley, Richard D.; Heinze, Georg; Schuit, Ewoud et al (2020): Prediction models for diagnosis and prognosis of covid-19: systematic review and critical appraisal. In: BMJ 369, m1328. https://doi.org/10.1136/bmj.m1328.
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Open Access Dieses Kapitel wird unter der Creative Commons Namensnennung 4.0 International Lizenz (http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Kapitel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
Copyright information
© 2023 VDI/VDE Innovation + Technik GmbH
About this chapter
Cite this chapter
Wittenbrink, N., Demirci, S., Wischmann, S. (2023). Resiliente und robuste KI-Systeme im praktischen Einsatz. In: Wittpahl, V. (eds) Resilienz. Springer Vieweg, Berlin, Heidelberg. https://doi.org/10.1007/978-3-662-66057-7_12
Download citation
DOI: https://doi.org/10.1007/978-3-662-66057-7_12
Published:
Publisher Name: Springer Vieweg, Berlin, Heidelberg
Print ISBN: 978-3-662-66056-0
Online ISBN: 978-3-662-66057-7
eBook Packages: Computer Science and Engineering (German Language)