Besser natürlich dumm als künstlich intelligent! Über Generative KI -Sie werden enttäuscht sein (mrmcd24)

Chaos Computer Club - recent events feed (high quality)

Summary: Generative AI is a more than impressive technology. But we are still a long way from having a generative AI that does what it suggests. Die generative KI ist eine mehr als beeindruckende Technologie. Aber wir sind noch weit davon entfernt, eine generative KI zu haben, die tut, was sie vorschlägt. Algorithms write source code, compose pieces of music, write scientific articles. But they guarantee neither quality nor functionality, let alone authenticity. AI knows neither true nor false nor right and wrong - which is why it cannot lie, but can "hallucinate". AI tries to "please" like a student who tries to give a plausible answer that pleases his teacher to a question that he cannot answer. AI does not care about ethical or legal issues. If it is not "tamed", it can become a danger that can no longer be controlled. Generative AI can destroy livelihoods - be it through "hallucinated information about people., or in the military sector, where it already plays a far greater role than assumed. Generative AI not only optimizes logistics and production processes. Generative AI can also take over military strategic planning and direct military operations, from acts of sabotage (blocking GPS) to the independent selection of targets and the choice of appropriate weapon systems. Algorithms are also increasingly contributing to business decisions in the economy. From automated application processes to portfolio strategies and marketing campaigns. This scenario has yet to be fully realized - humans still make the final decision - but for how much longer? The speaker will attempt to explain clearly why generative AI is neither intelligent nor creative, and why algorithms may take on the role of co-pilot, even autopilot, but never the role of flight captain. Algorithmen schreiben Quellcode, komponieren Musikstücke, verfassen wissenschaftliche Artikel. Aber sie garantieren weder Qualität noch Funktionalität, geschweige denn Authentizität. KI kennt weder wahr noch falsch noch richtig und falsch - deshalb kann sie auch nicht lügen, aber "halluzinieren". KI versucht zu "gefallen", wie ein Schüler, der versucht, auf eine Frage, die er nicht beantworten kann, eine plausible Antwort zu geben, die seinem Lehrer gefällt. Die KI kümmert sich nicht um ethische oder rechtliche Fragen. Wenn sie nicht "gezähmt" wird, kann sie zu einer Gefahr werden, die nicht mehr kontrolliert werden kann. Generative KI kann Existenzen zerstören - sei es durch "halluzinierte Informationen über Menschen", sei es im militärischen Bereich, wo sie bereits eine weitaus größere Rolle spielt als angenommen. Generative KI optimiert nicht nur Logistik- und Produktionsprozesse. Generative KI kann auch die militärische Strategieplanung übernehmen und militärische Operationen steuern, von Sabotageakten (Blockieren von GPS) bis hin zur eigenständigen Auswahl von Zielen und der Wahl geeigneter Waffensysteme. Auch in der Wirtschaft tragen Algorithmen zunehmend zu Geschäftsentscheidungen bei. Von automatisierten Bewerbungsverfahren bis hin zu Portfoliostrategien und Marketingkampagnen. Dieses Szenario ist noch nicht vollständig realisiert - noch trifft der Mensch die letzte Entscheidung - aber wie lange noch? Der Referent wird versuchen, anschaulich zu erklären, warum generative KI weder intelligent noch kreativ ist und warum Algorithmen zwar die Rolle des Co-Piloten, sogar des Autopiloten, aber niemals die Rolle des Flugkapitäns übernehmen können. https://creativecommons.org/licenses/by-sa/4.0/ about this event: https://talks.mrmcd.net/2024/talk/U8T9QL/