Помните историю про Гугла и горилл?. Google Photos...

Помните историю про Гугла и горилл?
Google Photos постоянно распознавал чернокожих людей как горилл и наоборот. На фотографиях.
Два года Гугл пытался научить ИИ отличать горилл от афроамериканцев, однако потерпел поражение, и в результате вынужден был просто исключить само понятие «горилла» из Google Photos.

Вчера тестировали бота @daisy_avatarbot в коментах и подписчик прислал вот такой вот скрин.
И если Гугл может просто вычеркнуть некоторые слова из своего лексикона, то из весов Stable Diffusion и довольно трудно выкорчевать такие безобразия. ИИ насмотрелся, подучился, и разучить его обратно будет довольно сложно.
Пост нейтральный - о том, что ИИ будет указывать нам на некоторые совпадения, а мы будет намертво стоять на своем, в духе "мы не такие" или "жопа есть, а слова такого нет, странно". И что алайнмент - штука ох какая непростая.