Impressions from the TÜV AI conference

A few impressions from the TÜV AI conference, which I attended last Thursday as a studio guest.

Digitalministerium, Oliver Luksic :

👉 es soll ein Siegel geschaffen werden „KI made in Germany“ mit dem Label „vertrauenswürdige künstliche Intelligenz“.

👉 ein Code of Conduct soll u.a. beschreiben, dass KI generierte Inhalte als solche ausgezeichnet werden sollen.

👉 Starke vs. Schwache KI: wir sehr sind weit von starker KI entfernt und sollten uns die Möglichkeiten der schwachen KI zunutze machen, um Wertschöpfung zu generieren. 

Panel – AI Act: The EU position:

👉 The AI Act should define what is needed to successfully implement AI.

👉 The AI Act can be a blueprint for activities all over the world.

👉 Regulation is particularly important for risky use cases like e.g., the justice system and scenarios including children.

👉 The aim: protection of consumers, citizens, etc.

👉 Regulations for generative AI systems should ensure that the risks of their application can be assessed meaningfully.

👉 Needed: Checking the data quality of high-risk AI applications

Ethische KI, Alena Buyx (Vorsitzende Deutscher Ethikrat, TU München)

👉 Die ethische Faustregel: Anwendungen der künstlichen Intelligenz müssen menschliche Handlungsmöglichkeiten erweitern und dürfen sie nicht ersetzen. Es sollen Assistenzsysteme für Menschen geschaffen werden.

👉 Fundamentale Frage: durch die Begriffsgebung „künstliche Intelligenz“ wird der Vergleich mit menschlicher Intelligenz herausgefordert. Kann es eine Intelligenz geben, die der menschlichen gleichkommt? Ethik Rat sagt, nein, denn damit würde man menschliche Intelligenz abwerten. Klar ist: ML-Modelle können mache Aufgaben besser, aber menschliche Intelligenz ist mehr. So haben Menschen z.B. auch emotionale Intelligenz.

👉 Ethische Gedanken sind z.B.: Was sind die Low hanging fruits für KI basierte Anwendungen? Was wollen wir KI basierten Instrumenten wirklich geben und warum? Wo bleiben wir zurückhaltend? Wo setzen wir keine KI ein, da die Risiken zu groß sind? Z.B. bei der Kindergeldvergabe oder der Vergabe von anderen Sozialleistungen?

And now…

1. I could not identify any specific regulatory approaches (maybe that’s good, but I’m unsure.
2. We need innovation (to create added values) and regulation (for risky use cases)
3. We need a balance instead of a ban on AI applications that still need to be explored. Risks must be taken on board in the planning process.
4. The sum is more than its parts. This can be seen in human intelligence. This insight is important for shaping society with artificial intelligence.

By the way, the conference (in the picture above and from my point of view) was a perfect hybrid event, just missing one piece: the #ConferenceBot that we are developing in our current research project #ToHyVe – Toolbox for hybrid Events 😉 

#TÜVAICon #KI #AI #AIact

Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI)