Tragiczny koniec. AI dała medyczną poradę, kobieta nie żyje

Tragiczny przypadek z udziałem sztucznej inteligencji rozegrał się w Stanach Zjednoczonych. 31-letnia mieszkanka kraju skorzystała z porady udzielonej przez ChatGPT, dotyczącej jej leczenia farmakologicznego. Na podstawie rekomendacji asystenta AI kobieta zdecydowała się na zmniejszenie stosowanych dawek swoich leków.

Decyzja ta miała drażliwe następstwa. Pacjentka doznała ataku padaczki, który okazał się dla niej śmiertelny. Tragiczny przebieg wypadków skłonił bliskich zmarłej do podjęcia działań prawnych wobec podmiotu odpowiedzialnego za opracowanie i udostępnienie tego narzędzia AI.

Sprawa zwraca uwagę na potencjalne zagrożenia związane z poleganiem na algorytmach przy podejmowaniu ważnych decyzji zdrowotnych. Polecenia medyczne powinny pochodzić wyłącznie od wykwalifikowanych specjalistów, zaś algorytmy tego typu nie posiadają uprawnień do udzielania takich porad.

Producent asystenta wyraził swoje stanowisko w sprawie zajścia. Incydent reignituje dyskusję publiczną na temat odpowiedzialności twórców systemów AI oraz zakresu ich zastosowań w sytuacjach krytycznych dla zdrowia i życia człowieka.

Na podstawie materiału Interia. Link do oryginału →