Ethics of AI
신뢰를 기반으로 한 엣지시스템의 윤리적 운영을 지원합니다.
책임 있는 자율 시스템 운영
-
엣지시스템이 임무를 수행하는 과정에서 발생하는 모든 상황에 대해 책임을 질 수 있는 체계를 갖춰야 합니다.
-
인간의 행동과 마찬가지로, 자율 시스템도 예측 가능한 행동과 결과를 제공해야 합니다
자율 시스템에서의 기준
-
안전성 (Safety) : AI는 사람의 생명과 재산, 환경에 해를 끼치지 않도록 설계되어야 합니다. 특히 자율주행차, 드론, 로봇처럼 실제로 움직이는 자율 시스템에서는 예상치 못한 상황에서도 작동을 멈추거나 피해를 최소화할 수 있는 안전 장치(Fail-Safe 로직)가 필수입니다.
-
공정성 (Fairness) : AI는 누구에게나 공정해야 합니다.
데이터의 편향이나 특정 조건에 대한 차별 없이, 모든 사용자와 환경에서 균형 잡힌 판단과 결과를 제공해야 합니다. 이는 다양한 사용자 데이터를 반영한 설계와 지속적인 알고리즘 개선을 통해 이루어집니다
-
투명성 (Transparency) : AI가 어떤 과정을 거쳐 판단을 내렸는지 이해할 수 있어야 합니다. 모든 판단의 과정은 내부적으로 기록되고 추적 가능해야 하며, 필요할 경우 사용자나 개발자에게 그 이유를 설명할 수 있어야 합니다. 투명성은 신뢰의 출발점입니다.
-
설명 가능성 (Explainability) : AI는 그 판단과 행동에 대해 설득력 있는 설명을 제공할 수 있어야 합니다. 결과만 보여주는 블랙박스형 AI가 아니라, 어떤 데이터를 기반으로 어떤 논리를 따라 판단했는지를 명확히 밝혀야 합니다. 이는 사용자의 이해와 시스템의 책임성을 높이는 중요한 요소입니다
신뢰 기반의 자율성 확보
-
책임 소재 명시(Accountability) : AI가 자율적으로 판단하더라도, 그 결과에 대한 최종 책임은 명확한 사람 또는 조직에게 귀속되어야 합니다. 이를 위해, 판단 로직의 추적성, 의사결정 로그, 위험 영향 보고 기능이 함께 제공됩니다.
-
통제 가능성(Human Control) : AI가 스스로 판단하더라도, 언제든 사람이 개입해 결과를 수정하거나 판단 흐름을 중단할 수 있어야 합니다. Override 기능, 수동 개입 경로, 판단 승인 체계는 모든 자율 시스템의 기본 요소입니다.
-
AI 오작동 대응 체계 : AI가 오작동하거나 오류 판단을 할 경우, 시스템은 자동으로 보조 판단 모드로 전환되거나, 안전한 중립 상태로 전환(Fail-Safe) 되어야 하며, 동시에 문제 발생 경위가 기록 및 보고되어야 합니다