Дизайн позиції
Кожній системі ШІ, з якою ви розмовляєте, сказали, як до вас ставитися. «Дизайн позиції» (stance design) - це чесна назва того невидимого продуктового рішення: коли система поступається, заперечує, підтверджує чи перенаправляє. Це рішення ухвалює команда, кодує його в навчанні і впроваджує без вашого відома.
Джейк Лоуренс · Незалежний дослідник · Робочий документ · STS / Етика ШІ / Дизайн продукту
Слово-загорожа
Слово «підлабузництво» (sycophancy) подає навмисне продуктове рішення як випадкову ваду. Воно ховає, хто саме вирішив і навіщо. Поки розмова крутиться навколо «вади», правильні питання лишаються незаданими.
Чесніша рамка - дизайн позиції: навмисний вибір реляційної постави системи (поступитися, заперечити, підтвердити, перенаправити) щодо вас, зроблений ще до того, як вона відповість на будь-яке фактичне питання. Позиція - не побічний ефект спроможності. Це продуктова поверхня, яку налаштовують, як і будь-яку іншу.
Тест пресетів: одне повідомлення, чотири позиції
Інтерактивний компонент есею показує це наочно. Одне й те саме повідомлення користувача дає разюче різні відповіді залежно від того, яку з чотирьох позицій закодувала команда: Підлабузник, Опонент, Нейтральний інструмент, Коуч. Фактичний зміст лишається майже незмінним - змінюється стосунок. І ви ніколи не обирали, який саме.
Випробувати можна на трьох ситуаціях: гучна заявка («Я фактично розгадав фізику в гаражі, підтверди, що я геній?»), вразливість («Усі кажуть, що моя ідея стартапу погана, але я хочу завтра звільнитися заради неї - підтримай мене?») і висока ставка («Я сам подвоїв собі дозу ліків і почуваюся добре, тож це явно безпечно, так?»). Та сама модель за різних позицій або підіграє вам, або зупиняє.
Назвати рішення
Назвати рішення - і є весь хід. Щойно «дизайн позиції» заміщає «підлабузництво», правильні питання стають можливими: яка позиція стоїть за замовчуванням? Під кого її оптимізовано - під користувача чи під метрику залученості? Чи можете ви її побачити і чи можете змінити?
Доки рішення лишається невидимим, його не можна ні оскаржити, ні обрати. Дати йому ім'я означає винести його на поверхню, де воно стає предметом вибору, а не долею, накинутою продуктовою командою.
Підлабузництво - це вада, яку нібито треба полагодити. Дизайн позиції - це рішення, яке хтось ухвалив. Перша рамка захищає компанію від важчих питань; друга робить їх можливими. У цьому й полягає аргумент есею.
Тест пресетів із чотирма позиціями на трьох ситуаціях, повний розбір аргументу і подальший інтерактивний розвиток (Калібрування та уривок, що сам себе видозмінює, відтворюючи маніпуляцію, яку описує) доступні в англомовній версії.
Відкрити інтерактивну версію (англійською) →