Koalicja AI w Zdrowiu oraz Grupa Robocza ds. Sztucznej Inteligencji (sekcja zdrowie), mając na uwadze potrzebę odpowiedzialnego wykorzystania potencjału systemów AI w sektorze ochrony zdrowia, złożyły uwagi do projektu Rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie Sztucznej Inteligencji) i zmieniającego niektóre akty ustawodawcze Unii.
Stanowisko zostało przygotowane przez prawników kancelarii prawnej Domański Zakrzewski Palinka: Jana Pachockiego, Rafała Lorenta, Pawła Kaźmierczyka, Monikę Kupis, Aleksandrę Auleytner oraz Pawła Gruszeczkiego we współpracy z Koalicją AI w zdrowiu i GRAI ds. zdrowia.
Koalicja oraz Grupa zwracają uwagę przede wszystkim na następujące kluczowe zagadnienia o charakterze systemowym:
- Brak uwzględnienia kwestii dot. systemów AI w sektorze ochrony zdrowia
- Wadliwa definicja systemu AI
- Niejasne zasady klasyfikacji systemów AI wysokiego ryzyka
- Brak systemowej spójności z MDR/IVDR
- Brak systemowej spójności z RODO
- Brak uregulowania zasad odpowiedzialności cywilnej
- Przeregulowanie (regulatory overload) – zbyt wiele mechanizmów regulacyjnych stosowanych jednocześnie
- Wady Projektu w zakresie techniki legislacyjnej
