Новость хоть и годичной давности, но это не так важно. Анализ поведения и составление поведенческого профиля человека с помощью ИИ — на сегодняшний день нереализуемая история, как бы кто в это не хотел верить. Давайте разбираться на примерах.
PS: Перед началом разъяснения рекомендую ознакомиться с оригиналом, чтобы потом было проще понимать, о чем идет речь: https://habr.com/ru/company/selectel/blog/533228/
PS: Перед началом разъяснения рекомендую ознакомиться с оригиналом, чтобы потом было проще понимать, о чем идет речь: https://habr.com/ru/company/selectel/blog/533228/
▪︎ ▪︎ ▪︎
Ученые предположили, что по различной активности пользователей в соц.сетях, можно выявить психические отклонения на ранней стадии. Ученые получили доступ к данным 223 добровольцев (про которых они точно знали подтвержденные диагнозы), алгоритм проанализировал информацию и выявил следующее:
- Употребление нецензурных слов характеризует людей с психическим заболеванием.
- Частое использование в тексте глаголов восприятия: видеть, чувствовать, слышать, а также слов, описывающих отрицательные эмоции, говорит о шизофрении.
- Холодные голубоватые оттенки на фотографиях связаны с нарушением эмоционального состояния.
💬 “Для оценки адекватности полученных результатов исследователи прибегли к обобщенному показателю, который находит компромисс между ложными срабатываниями на триггеры и ложными отрицаниями, которые также неизбежны. Ученые получили для своей системы оценку точности постановки диагноза от 0,65 до 0,77 в зависимости от исходной базы данных. Это неплохой результат. Для понимания выставления оценки поясним, что точность идеального алгоритма, без ложных реакций равна 1. Точность алгоритма, пытающегося выставить диагноз наугад — 0,5.”
Это вкратце. Теперь пройдемся по основным моментам.
1️⃣ Начнем с козырей. Кто в здравом уме в эпоху big data может считать выборку в 223 человека серьезной? Минимальный порог для качественного исследования хотя бы 8 000 — 10 000 человек. В принципе, на этом можно было бы ставить крест на данном “исследовании”, но, все-таки, продолжим.
2️⃣ Где гарантии, что все 223 пациента действительно имели какие-либо клинические заболевания? Любой психиатр может ошибаться. В статье не упоминается количество специалистов, работающих над анализом диагнозов пациентов.
3️⃣ В статье совершенно нет информации о контрольной группе: возраст, преимущественный пол, информация о хронических заболеваниях и прочее. Без этой информации вообще невозможно судить о валидности исследования.
4️⃣ Нет ни слова о конкретных методиках, используемых ИИ для анализа людей на предмет отклонений.
5️⃣ Ну и самое главное, о чем я говорю всегда в случае с темой ИИ и анализом поведения: нужно учитывать контекст и индивидуальные особенности конкретного человека (базовая линия поведения). Даже если человек страдает каким-то серьезным психическим расстройством, ему может ПРОСТО НРАВИТЬСЯ синий цвет. Без всяких потайных смыслов. А кому-то может нравиться красный. И тоже просто так, без подтекста. А еще, есть люди, которые привыкли описывать свои переживания или видение мира в целом через призму ощущений, а не логики (так часто говорят про женщин, хоть это и не всегда правильно). По этой причине их психолингвистика будет наполнена, в основном, определенными глаголами (“я чувствую, что; мне так видется, у меня плохое предчувствие” и прочее). Мы всех таких людей будем записывать в шизофреники?
1️⃣ Начнем с козырей. Кто в здравом уме в эпоху big data может считать выборку в 223 человека серьезной? Минимальный порог для качественного исследования хотя бы 8 000 — 10 000 человек. В принципе, на этом можно было бы ставить крест на данном “исследовании”, но, все-таки, продолжим.
2️⃣ Где гарантии, что все 223 пациента действительно имели какие-либо клинические заболевания? Любой психиатр может ошибаться. В статье не упоминается количество специалистов, работающих над анализом диагнозов пациентов.
3️⃣ В статье совершенно нет информации о контрольной группе: возраст, преимущественный пол, информация о хронических заболеваниях и прочее. Без этой информации вообще невозможно судить о валидности исследования.
4️⃣ Нет ни слова о конкретных методиках, используемых ИИ для анализа людей на предмет отклонений.
5️⃣ Ну и самое главное, о чем я говорю всегда в случае с темой ИИ и анализом поведения: нужно учитывать контекст и индивидуальные особенности конкретного человека (базовая линия поведения). Даже если человек страдает каким-то серьезным психическим расстройством, ему может ПРОСТО НРАВИТЬСЯ синий цвет. Без всяких потайных смыслов. А кому-то может нравиться красный. И тоже просто так, без подтекста. А еще, есть люди, которые привыкли описывать свои переживания или видение мира в целом через призму ощущений, а не логики (так часто говорят про женщин, хоть это и не всегда правильно). По этой причине их психолингвистика будет наполнена, в основном, определенными глаголами (“я чувствую, что; мне так видется, у меня плохое предчувствие” и прочее). Мы всех таких людей будем записывать в шизофреники?
▪︎ ▪︎ ▪︎
В общем, если подытожить, пока что это выглядит очень по детски. Данное исследование вообще не выдерживает критики хотя бы по причине информационного вакуума вокруг него. Просто набор красивых фраз без какой-либо конкретики и первоисточников.
Стоит оговориться, что при большой выборке, мощном экспертном составе и при наличии большого количества времени, можно научить нейросетку определять “странности” в поведении конкретного человека. Только для этого алгоритм уже должен будет его изучать какое-то время, чтобы была отправная точка (с чем сравнивать). И то, я сейчас больше говорю не о психических отклонениях, а просто об изменении поведения. Что послужило тому причиной, алгоритм пока понять не может, так как он не знает контекста, который должен выяснять специалист при личном общении.
Поэтому, в обозримом будущем подобных попыток будет огромное количество, но они не принесут плоды, пока человечество не создаст полноценный ИИ, который сможет опираться на контекст ситуации и проводить отсеивание.
Стоит оговориться, что при большой выборке, мощном экспертном составе и при наличии большого количества времени, можно научить нейросетку определять “странности” в поведении конкретного человека. Только для этого алгоритм уже должен будет его изучать какое-то время, чтобы была отправная точка (с чем сравнивать). И то, я сейчас больше говорю не о психических отклонениях, а просто об изменении поведения. Что послужило тому причиной, алгоритм пока понять не может, так как он не знает контекста, который должен выяснять специалист при личном общении.
Поэтому, в обозримом будущем подобных попыток будет огромное количество, но они не принесут плоды, пока человечество не создаст полноценный ИИ, который сможет опираться на контекст ситуации и проводить отсеивание.
