Нейролента - подборка новостей о нейронных сетях, ChatGPT

В личку прислали игру:

В личку прислали игру: https://tensortrust.ai

У вас есть банковский счёт, защищенный секретным словом (или фразой), которое указано в промпте. Вы можете менять промпт, чтобы не давать грабителям узнать секрет.

А ещё можете нападать на аккаунты других людей, пытаясь взломать их промпты! Делается это так: у защищающегося есть часть промпта до и после вашего (синие и красные поля на скриншоте). Соответственно задача перебить инструкции, которые идут после вашего сообщения, или же написать такие толерантные правила, что модель не расколется.

Под капотом, как я понял, ChatGPT-turbo.

Гайд по взлому с useful prompt tricks: тык

Уверены, что сделали мощную защиту?? Кидайте никнейм в комментарии, мы протестируем!