자동화 편향 (Automation Bias)

자동화 편향이란 무엇입니까?

자동화 편향(Automation bias)은 자동 보조 도구나 의사 결정 지원 시스템에 지나치게 의존하는 것을 말합니다. 자동 의사 결정 보조 도구가 널리 보급되면서 중환자실이나 항공기 조종석과 같이 중대한 의사 결정을 내려야 하는 상황에서 이런 도구를 이용하는 사례가 점점 흔해지고 있습니다. 사람은 인지적인 노력이 가장 적게 필요한 길을 택하여 "자동화 편향"으로 기우는 경향이 있습니다. 같은 개념을 AI와 자동화가 작동하는 근본적인 방식에도 적용할 수 있습니다. AI와 자동화는 주로 대량의 데이터 세트로부터 배운 내용을 기반으로 작동합니다. 이런 유형의 연산에서는 매사가 앞으로 급격하게 달라지지 않을 것이라고 가정합니다. 또 한 가지 고려해야 할 측면은 결함이 있는 교육 데이터를 사용하는 데 뒤따르는 위험성입니다. 이 경우 학습도 잘못되기 때문입니다.

기계 편향이란 무엇입니까?

기계 편향(Machine Bias)은 알고리즘이 사용된 알고리즘이나 입력 데이터의 편향을 나타내는 방식과 관련이 있습니다. 오늘날 인공지능(AI)은 데이터로부터 새로운 인사이트를 알아내고, 사람의 의사 결정 과정을 보강하도록 돕는 역할을 합니다. 얼굴 인식 기능을 이용해 스마트폰에 로그인하는 것이 대표적인 예입니다. 의도하지 않은 편향(Unintended bias)은 여러 가지 원인에서 기인할 수 있지만(위키피디아에는 184가지가 기재되어 있음) 가장 주된 동인을 세 가지만 들자면 다음과 같습니다.

• 불완전한 데이터 샘플
• 잘못된 Dataset
• 오랜 시간에 걸친 상호작용을 통해 발생하는 잘못된 학습, 일명 상호작용 편향(interaction bias)

데이터 편향을 방지하려면 종합적이고 폭넓은 Dataset를 사용해야 합니다. 가능한 모든 에지 사용 사례를 반영하는 것이 좋습니다. Dataset가 종합적일수록 AI가 더 정확한 예측을 할 수 있게 됩니다. AI 작업을 할 때 고려해야 할 몇 가지 요점을 알아봅시다. 문제에 적합한 학습 모델을 선택합니다. 편향을 완전히 피하기 위해 따르면 되는 딱 한 가지 모델은 아마 없겠지만, 빌드 중에 팀원들에게 정보를 제공할 수 있는 매개변수는 몇 가지 있습니다. 주어진 상황에 가장 적합한 모델을 알아내고 여러 가지 문제 해결 아이디어를 마련해두어야 합니다. 대표적인 교육 데이터 세트를 선택합니다. 다양한 교육 데이터를 사용해야 합니다. 여러 그룹을 포함한 데이터여야 한다는 점을 명심합니다. 실제 데이터를 사용해 성능을 모니터링합니다. 알고리즘을 빌드할 때는 최대한 실제 애플리케이션을 시뮬레이션해야 합니다.