Künstliche Systeme sollen nach KI-Prinzipien in der Lage sein, genauso wie Menschen, auf Veränderungen in der Umwelt bewirken zu können, sog. 'humanly acting'. Noch dazu sollen künstliche Systeme auf den Grundlagen der Regeln der Logik, Informationen nach den Utility-Maximierung zu verarbeiten, sog. 'rationally thinking' und sie sich durch eigene Wünsche und Vorstellungen ergebenden Ziele stringent zu verfolgen, sog. 'rationally acting', auch wenn KI bisher so gut wie kein ‚Herz’ oder ‚Hirn’ verfügt. 

Weiterhin spielen dabei eine zentrale Rolle Aspekte der Denkgesetze und des rationalen Denkens.

Auch weitere Aspekte mit Blick auf technische und menschliche Sicherheit bleiben bis heute noch offen und Konkretisierungsbedürftig, um so mehr, wenn Künstliche Intelligenz (KI) und die immer komplexer werdende Algorithmen beeinflussen das Leben der Menschen und die menschliche Zivilisation immer stärker.

Die KI-Anwendungsbereiche gelten als außerordentlich vielfältig und ihre Möglichkeiten als weitreichend: Insbesondere aufgrund von Verbesserungen in der Computerhardware übertreffen gewisse KI-Algorithmen bereits heute vielen menschlichen Leistungen. Ihr Anwendungsgebiet wächst seit Jahren fast unaufhörlich und scheint künftig weiter zu wachsen, dies sogar bei einer gleichzeitigen Verbesserung der KI-Leistungen.

Man erwartet, dass sich die entsprechenden Algorithmen in immer stärkerem Ausmaß selbst optimieren werden, selbst auf übermenschliches Niveau. Dieser technologische Fortschritt stellt den Menschen bereits vor historisch beispiellose ethische Herausforderungen, nicht nur aufgrund von möglich eintretenden Fehlfunktionen, sondern ebenso der schnell fortschreitenden Entwicklung selbst.

Auch Fragen betreffend etlichen kognitiven Verzerrungen im Zusammenhang mit der Nutzung von KI bleiben eine Herausforderung, sofern man menschliche Handlungsautonomie an die entsprechenden Systeme nicht völlig abgibt. Sie werfen nicht nur ethischen, sondern ebenso technischen und datenschutzrechtlichen Fragen aus.