День 123: Nextdoor обсуждает ИИ. Что насчет конфиденциальности и безопасности в предвыборный год?
Приближается день выборов, и я хотел бы, чтобы генеральный директор Nextdoor Нирав Толиа затронул один важный момент.
Мы много слышали об искусственном интеллекте, «районном интеллекте» и ценности данных Nextdoor. Это важные темы.
Но есть вопрос, заслуживающий не меньшего внимания:
Что происходит, когда соседская дискуссия принимает политический оборот, и кто-то, имеющий доступ к конфиденциальной информации пользователей, решает ею злоупотребить?
В политических дискуссиях бывает жарко. Люди не соглашаются друг с другом. Местные модераторы пытаются следить за соблюдением правил сообщества, но ни одна система модерации не может гарантировать, что каждая дискуссия останется цивилизованной.
Теперь давайте рассмотрим, чем Nextdoor отличается от многих других социальных платформ: связь между учетными записями и подтвержденными адресами в районе проживания.
Это поднимает важный вопрос о доступе, конфиденциальности и подотчетности.
Риск заключается не только в том, что люди публикуют, но и в том, кто может получить доступ к этим данным.
Представьте, что ваш сосед вступает в ожесточенный политический спор с кем-то в Nextdoor.
А что, если разногласия выйдут за рамки простого обсуждения?
Что если кто-то попытается установить место жительства другого человека, раскрыть его номер телефона, запугать его в реальной жизни или использовать личную информацию для мести?
Я не утверждаю, что это произошло или что модераторы Nextdoor злоупотребляют чьей-либо информацией. Я спрашиваю, какие существуют меры защиты, чтобы предотвратить это.
Если модератор или кто-либо с правами доступа к платформе может получить доступ к конфиденциальной информации, связанной с подтвержденными учетными записями, что мешает им злоупотреблять этим доступом?
Возможность человека модерировать беседу не должна автоматически означать, что ему необходим доступ к личной информации этого человека.
Нирав, вот что я хотел бы узнать
Контроль доступа: Кто имеет доступ к подтвержденным адресам пользователей, номерам телефонов и другой конфиденциальной информации?
Принцип наименьших привилегий: ограничены ли модераторы в доступе к информации, которая им действительно необходима для выполнения своих обязанностей?
Журналы аудита: регистрирует ли Nextdoor доступ к конфиденциальной информации пользователей и проверяет ли он его, и может ли подозрительная активность стать поводом для расследования?
Ответственность модераторов: какие процедуры проверки, обучения и контроля помогают предотвратить злоупотребление привилегиями модераторов?
Сообщение о нарушениях и реагирование: Если пользователь подозревает, что его информация была использована неправомерно, как он может сообщить об этом, и какие меры защиты и процедуры реагирования доступны?
Готовность к избирательной кампании: Есть ли у Nextdoor конкретные процедуры для реагирования на политические преследования, раскрытие личных данных, угрозы и попытки перевести онлайн-конфликты в реальный мир?
Это не обвинения. Это элементарные вопросы о конфиденциальности, безопасности и управлении рисками.
Подтвержденные адреса порождают ответственность
Модель Nextdoor, ориентированная на создание сообществ, основана на объединении людей с реальными сообществами. Это помогает сделать местные дискуссии актуальными.
Но одной лишь проверки недостаточно для гарантии надлежащего поведения.
Подтвержденный адрес — это сигнал доверия, а не гарантия того, что каждый, кто имеет доступ к платформе, будет действовать надлежащим образом.
Безопасность должна выходить за рамки проверки того, кто имеет право находиться в том или ином районе. Она также должна регулировать, кто может получить доступ к конфиденциальной информации, почему им разрешен доступ к ней и что происходит, когда кто-то злоупотребляет этим правом.
Это особенно важно, когда разногласия приобретают личный характер.
Искусственный интеллект может подождать. Давайте поговорим о защите людей.
Нирав, меня интересует стратегия Nextdoor в области искусственного интеллекта. Меня интересует концепция «районного интеллекта» и то, как компания планирует стать прибыльной.
Но по мере приближения дня выборов я считаю, что вопросы конфиденциальности и безопасности также заслуживают прямого обсуждения.
Людям не следует выбирать между участием в жизни своего района и опасениями, что их личная информация может быть использована против них.
Какие меры защиты предусмотрены в Nextdoor для пользователей в случае обострения политических разногласий, и как компания привлекает к ответственности лиц, обладающих привилегированным доступом?
Я не прошу Nextdoor раскрывать детали безопасности, которые могли бы помочь кому-либо обойти его защиту. Я прошу четкого объяснения мер защиты, контроля и процедур сообщения о нарушениях, которые обеспечивают безопасность пользователей.
День 123. Я по-прежнему хочу, чтобы Nextdoor добился успеха. Защита людей, которые делают эту платформу ценной, должна быть частью этого успеха.
👉 Следите за продолжением моего исследования на NielFlamm.com/blog