Упередження автоматизації — це схильність людей віддавати перевагу пропозиціям автоматизованих систем прийняття рішень та ігнорувати суперечливу інформацію, отриману без автоматизації, навіть якщо вона правильна. Упередження автоматизації описане в літературі з соціальної психології, яка виявила упередження у взаємодії між людьми, яке показало, що люди дають більш позитивні оцінки рішенням, прийнятим людьми, ніж нейтральному об'єкту.Bruner, J. S., & Tagiuri, R. 1954. «The perception of people». In G. Lindzey (Ed.), Handbook of social psychology (vol 2): 634—654. Reading, MA: Addison-Wesley. Такий самий тип позитивного упередження було виявлено для взаємодії людини та автоматизації, де оцінюються більш позитивно, ніж нейтрально. Це стає дедалі більшою проблемою для прийняття рішень, оскільки , атомні електростанції та кабіни літаків все більше інтегрують комп'ютеризовані системні монітори та допоміжні засоби прийняття рішень, які переважно виключають можливі людські помилки. Помилки автоматизації, як правило, виникають, коли прийняття рішень залежить від комп'ютерів або інших автоматизованих допоміжних засобів, а людина виконує роль спостерігача, але може приймати рішення. Приклади упередженості автоматизації варіюються від термінових справ, таких як політ літака з автопілотом, до таких повсякденних справ, як використання програм перевірки орфографії.
Невикористання та неправильне використання Довіра оператора до системи також може призвести до різних взаємодій із системою, включаючи використання системи, неправильне використання, невикористання та зловживання.
Тенденція до надмірної залежності від автоматизованих допоміжних засобів відома як «зловживання автоматизацією». Неправильне використання автоматизації можна помітити, коли користувач не може належним чином контролювати автоматизовану систему або коли автоматизована система використовується, коли вона не повинна використовуватися. Це відрізняється від невикористання, коли користувач не використовує автоматизацію належним чином, вимикаючи її або ігноруючи. Як неправильне використання, так і невикористання можуть бути проблематичними, але упередження автоматизації безпосередньо пов'язане з неправильним використанням автоматизації через надмірну довіру до можливостей системи або схильність евристичних методів. Неправильне використання може призвести до відсутності керування автоматизованою системою або сліпої згоди з пропозицією автоматизованої системи, класифікованою за двома типами помилок, помилки упущення та помилки вчинення відповідно.
Використання та невикористання автоматизації також може впливати на етапи обробки інформації: збирання інформації, аналіз інформації, прийняття рішень і вибір дій, а також виконання дій.
Наприклад, збирання інформації, перший крок в обробці інформації, є процесом, за допомогою якого користувач реєструє введені дані за допомогою органів чуття. Автоматизований датчик двигуна може допомогти користувачеві з отриманням інформації за допомогою простих функцій інтерфейсу, таких як підсвічування змін у продуктивності двигуна, таким чином спрямовуючи вибіркову увагу користувача. Стикаючись із проблемами, пов'язаними з літаком, пілоти можуть бути схильними довіряти вимірювальним приладам двигуна літака, упускаючи з уваги інші можливі несправності, не пов'язані з двигуном. Таке ставлення є формою самозаспокоєння та неправильного використання автоматизації. Проте, якщо пілот приділяє час інтерпретації датчика двигуна та відповідному маніпулюванню літальним апаратом, лише для того, щоб виявити, що турбулентність польоту не змінилася, пілот може бути схильний ігнорувати майбутні рекомендації щодо помилок, передані датчиком двигуна — формою самозаспокоєння автоматизацією, що призводить до невикористання.
Помилки вчинення та упущення Упередження автоматизації може набувати форми помилок вчинення, які виникають, коли користувачі виконують автоматизовану директиву, не беручи до уваги інші джерела інформації. І навпаки, помилки упущення виникають, коли автоматизовані пристрої не можуть виявити або вказати на проблеми, а користувач їх не помічає, оскільки він не належним чином контролює систему.
Було показано, що помилки упущення є результатом зниження когнітивної пильності, тоді як помилки вчинення є результатом поєднання неврахування інформації та надмірної довіри до надійності автоматизованих допоміжних засобів. Помилки вчинення відбуваються з трьох причин: (1) явне перенаправлення уваги від автоматизованої допомоги; (2) зниження уваги до допомоги; (3) активне нехтування інформацією, яка суперечить рекомендаціям допомоги. Помилки упущення виникають, коли особа, яка приймає рішення, не помічає збій автоматизації через низьку пильність або надмірну довіру до системи. Наприклад, програма перевірки орфографії, яка помилково позначає слово як неправильно написане та пропонує альтернативу, призведе до помилки вчинення, а програма перевірки орфографії, яка не помітить неправильно написане слово, призведе до помилки упущення. У цих випадках упередження автоматизації може спостерігатися, коли користувач приймає альтернативне слово, не звернувшись до словника, або користувач, не помічає неправильно написаного слова та припускає, що всі слова правильні, не переглядаючи слова.
Навчання, яке було зосереджено на зменшенні упередженості автоматизації та пов'язаних з цим проблем, показало зниження рівня помилок вчинення, але не помилок упущення.
Фактори Наявність автоматичних допоміжних засобів, як стверджує одне джерело, «зменшує ймовірність того, що особи, які приймають рішення, докладуть когнітивних зусиль для пошуку іншої діагностичної інформації або опрацюють всю доступну інформацію когнітивно складними способами». Це також підвищує ймовірність того, що користувачі надто поспішно прийдуть до висновку про свою оцінку ситуації після того, як автоматична допомога підкаже їм вжити певних дій.
Згідно з одним джерелом, є три основні фактори, які призводять до упередженості автоматизації. По-перше, людська схильність вибирати найменш когнітивний підхід до прийняття рішень, що називається гіпотезою . По-друге, схильність людей розглядати автоматизовані допоміжні засоби як такі, які мають аналітичні здібності, що перевершують їхні власні. По-третє, схильність людей зменшувати свої власні зусилля, розподіляючи завдання з іншою особою або за допомогою автоматизованої допомоги.
Інші фактори, що призводять до надмірної залежності від автоматизації та, отже, до упередженості автоматизації, включають недосвідченість у виконанні завдання (хоча недосвідчені користувачі, як правило, отримують найбільшу користь від автоматизованих систем підтримки прийняття рішень), відсутність впевненості у власних силах, відсутність легкодоступної альтернативної інформації або бажання заощадити час і зусилля на складних завданнях або великих навантаженнях. Було показано, що люди, які мають більшу впевненість у своїх власних здібностях приймати рішення, як правило, менше покладаються на зовнішню автоматизовану підтримку, тоді як ті, хто більше довіряє системам підтримки прийняття рішень, були більш залежними від них.
Дизайн екрану Одне дослідження, опубліковане в , показало, що розташування та помітність порад на екрані можуть вплинути на ймовірність упередження автоматизації, оскільки чітко відображені поради, правильні чи ні, з більшою ймовірністю будуть дотримані; інше дослідження, однак, здавалося, знеціює важливість цього фактора. Згідно з іншим дослідженням, більша кількість деталей на екрані може зробити користувачів менш «консервативними» і таким чином збільшити ймовірність упередження автоматизації. Одне дослідження показало, що покладання на людей відповідальності за їх ефективність або точність рішень зменшує упередження автоматизації.
Доступність «Доступність автоматизованих засобів прийняття рішень, — зазначається в одному дослідженні , — іноді може сприяти загальній людській схильності рухатися шляхом найменших когнітивних зусиль».
Усвідомлення процесу Одне дослідження також виявило, що коли користувачі дізнаються про процес міркування, який використовується системою підтримки прийняття рішень, вони, ймовірно, відповідно відкоригують свою довіру, таким чином зменшуючи упередження автоматизації.
Команда проти особи Виконання робіт бригадами замість окремих осіб не обов'язково усуває упередження автоматизації. Одне дослідження показало, що коли автоматизованим пристроям не вдавалося виявити порушення системи, команди були не більш успішними, ніж індивідуальні виконавці, реагуючи на ці порушення.
Навчання Навчанням, яке зосереджується на упередженні автоматизації в авіації, вдалося зменшити кількість помилок студентів-пілотів.
Збій автоматики та «навчена неуважність» Було показано, що збій автоматизації супроводжується падінням довіри оператора, яке, у свою чергу, змінюється повільним відновленням довіри. Зниження довіри після початкового збою автоматизації було описано як ефект першого збою. Таким же чином, якщо автоматизовані допоміжні засоби з часом виявляться високонадійними, результатом, швидше за все, буде підвищений рівень автоматизації. Це називається «навчена неуважність».
Надання інформації про надійність системи У випадках, коли користувачам надається інформація про надійність системи, сама ця інформація може стати чинником упередження автоматизації.
Зовнішній тиск Дослідження показали, що чим сильніший зовнішній тиск чиниться на когнітивні здібності людини, тим більше він або вона може покладатися на зовнішню підтримку.
Проблеми визначення Незважаючи на те, що упередження автоматизації було предметом багатьох досліджень, продовжують надходити скарги на те, що упередження автоматизації залишається погано визначеним, а повідомлення про випадки, пов'язані з упередженням автоматизації, є несистематичними.
Огляд різних досліджень упередження автоматизації класифікував різні типи завдань, у яких використовувалися автоматизовані допоміжні засоби, а також те, які функції виконували автоматизовані допоміжні засоби. Завдання, у яких використовувалися автоматизовані допоміжні засоби, класифікували як завдання моніторингу, завдання діагностики або завдання керування. Типи автоматизованої допомоги були перераховані як автоматизація сповіщень, яка відстежує важливі зміни та сповіщає користувача, автоматизація підтримки прийняття рішень, яка може надати діагноз або рекомендацію, або автоматизація впровадження, де автоматизована допомога виконує певне завдання.
Самозаспокоєння, спричинене автоматизацією Концепція упередження автоматизації розглядається як перетин із самозаспокоєнням, викликаним автоматизацією, також відомим просто як самозаспокоєння автоматизації. Як і упередження автоматизації, це є наслідком неправильного використання автоматизації та включає проблеми з увагою. У той час як упередження автоматизації передбачає схильність довіряти системам підтримки прийняття рішень, самозаспокоєння автоматизацією передбачає недостатню увагу та моніторинг результатів автоматизації, зазвичай тому, що цей результат вважається надійним. «Хоча концепції самозаспокоєння та упередження автоматизації обговорювалися окремо, ніби вони були незалежними, — пише один експерт, — вони мають кілька спільних рис, що свідчить про те, що вони відображають різні аспекти того самого типу неправильного використання автоматизації». Дійсно, було запропоновано об'єднати поняття самозаспокоєння та упередження автоматизації в єдину «інтегративну концепцію», оскільки ці дві концепції «можуть представляти різні прояви збігаються явищ, спричинених автоматизацією», і тому, що «самозаспокоєння автоматизації та упередження автоматизації» являють собою тісно пов'язані теоретичні концепції, які демонструють значне перекриття щодо основних процесів".