Midász-probléma (célmeghatározás nem várt AI-következményekkel)

Midász király mítoszára utaló fogalom arra a helyzetre, amikor egy AI-rendszernek kitűzött célt az ember nem tudja elég pontosan megfogalmazni, és az eszköz olyan nem kívánt módon éri el azt, amire senki nem gondolt. Sipos Zoltán szerint nem attól kellene tartanunk, hogy egy AI szándékosan „ellenünk fordul”, hanem attól, hogy pontosan azt teszi, amit kérünk tőle — csak épp nem várt következményekkel.