Софи Алперт: инженеры отвечают за каждую фразу в тексте, даже переписанную ИИ
Саймон Уиллисон в коротком посте пересказывает и хвалит «внутреннюю политику о допустимом использовании ИИ-письма инженерами», которую написала Софи Алперт. Он приводит из неё две цитаты.
Первая, про ответственность автора: инженер обязан отвечать за каждую мысль и каждое предложение в своих документах и убедиться, что весь документ отражает именно его мысли, прежде чем им поделиться. Если рецензент спрашивает «что ты имел в виду вот этой строкой», ответ «извини, это написал ИИ, не обращай внимания» неприемлем, так автор путает читателя и тратит его время на то, что на самом деле не отражает мысли автора.
Вторая цитата, заголовочная идея поста: беспотерьных (lossless) преобразований текста на естественном языке не существует. Любое переписывание или перефразирование меняет смысл написанного, и если это делает система, у которой нет максимально детального представления о том, что именно человек хотел сообщить, часть информации теряется.
Уиллисон подытоживает: если инженер решает подключать ИИ для доработки текста, правило про личную ответственность за каждую строку кажется ему ключевым.
Ключевые факты
- Саймон Уиллисон пересказывает и хвалит внутреннюю политику Софи Алперт об использовании ИИ в текстах инженеров
- Ключевое правило политики: автор обязан отвечать за каждую мысль и каждое предложение документа, даже если формулировку предложил ИИ
- Ответ рецензенту «это написал ИИ, не обращай внимания» политика называет неприемлемым, это путает и тратит время читателя
- Заглавная идея поста: беспотерьных преобразований текста не существует, любая переформулировка меняет смысл
- Если переформулировку делает система без детального понимания замысла автора, часть информации теряется
Почему это важно
Пост фиксирует простое, но легко забываемое правило: текст, прошедший через ИИ, не становится нейтральным техническим шагом вроде проверки орфографии. Каждая переформулировка, это новое решение о смысле, и если это решение принимает система без полного понимания замысла автора, часть смысла теряется безвозвратно. Политика Софи Алперт закрывает лазейку, которой инженеры иногда пользуются: снимать с себя ответственность фразой «это ИИ написал».
Кому это важно
Инженерам и авторам документации, которые используют ИИ для доработки текстов, отчётов, спецификаций, писем, код-ревью. Тем, кто рецензирует чужие документы и хочет понимать, стоит ли за строкой реальная мысль автора. Руководителям команд, которые формулируют собственные внутренние правила использования ИИ для письма.
Как это применить
Правило из процитированной политики можно взять как готовую формулировку для собственной команды: ИИ разрешено привлекать к доработке текста, но перед тем как поделиться документом, автор обязан убедиться, что каждая мысль и каждое предложение действительно отражают его собственную позицию, и быть готовым объяснить любую строку без ссылки на то, что её «написал ИИ».
Можно ли доверять
Источник, короткий пост известного разработчика и блогера Саймона Уиллисона с прямым цитированием политики Софи Алперт; сама политика в тексте не приводится целиком, и в источнике нет ни её полного текста, ни данных о месте работы или должности Софи Алперт, ни о том, публичный это документ или личная переписка. Оценить контекст политики за пределами двух цитат по этому посту невозможно.
Риски и подводные камни
Главный риск, который описывает сама политика: делегируя переформулировку системе без точного понимания замысла, автор теряет часть смысла и рискует представить читателю текст, который на самом деле не отражает его мысли, с последующей путаницей и потерей доверия, если это вскроется при разборе документа.
«Вы обязаны отвечать за каждую мысль и каждое предложение в своих документах. Это ваша ответственность, убедиться, что весь документ отражает именно ваши мысли, прежде чем им поделиться. Если рецензент спрашивает: «Что ты имел в виду вот этой строкой?», ответ «Ой извини, это ИИ написал, не обращай внимания» неприемлем. Вы запутаете читателей (и потратите их время впустую), если покажете им то, что на самом деле не отражает ваши мысли.»
— Софи Алперт, из её политики (цитирует Саймон Уиллисон)