AI 투명성 고지

Entrust ID 확인 서비스 인공지능("AI") 투명성 고지
본 고지는 귀하가 사용하고 있는 AI 시스템에 대한 투명한 정보를 제공하며, 시스템의 기능, 제한, 편향, 데이터 사용 관행 및 안전 조치를 간략하게 설명합니다. Entrust는 AI가 어떻게 작동하는지, 무엇을 할 수 있고 할 수 없는지 그리고 데이터가 어떻게 처리되는지 이해하는 데 필요한 지식을 제공하고자 합니다. 이러한 투명성을 제공하여 고객은 AI 기술과의 상호작용에 대해 정보에 입각한 결정을 내릴 수 있습니다.

이 고지를 읽으면서 AI가 제공하는 중요한 정보를 항상 이중으로 확인하시기 바랍니다. Entrust의 기술은 전문가의 판단을 대체하는 것이 아니라 도움을 주기 위해 고안되었습니다. 건강, 재정 또는 법적 영향을 미칠 수 있는 결정의 경우 조치를 취하기 전에 적절한 자격을 갖춘 전문가와 상담하거나 독립적인 법률 자문을 받는 것을 강력히 권장합니다.

Entrust의 IDV(ID 확인) 제품을 사용하면 클라이언트가 원격으로 사용자를 처리, 확인하고 온보딩할 수 있습니다. 이 시스템에 입력되는 정보는 신분증 사진/동영상과 신청자의 사진/동영상입니다. Entrust의 의사결정 엔진은 이러한 입력을 사용하여 승인/검토 신호를 반환하며, 해당 결과가 도출된 방식에 대한 적절한 배경 정보와 상세한 분석 내용을 함께 제공합니다.

IDV 제품은 네 가지 핵심 기술 부문으로 구성되며, 각 부문은 AI 시스템에 기반을 두고 있습니다. 네 가지 부문으로는 (1) 얼굴 유사성, (2) 생체 인식 스푸핑 방지 및 생체 감지(얼굴 이미지), (3) 문서에서 자동 데이터 추출, (4) 신분증에 대한 사기 방지 기술이 있습니다. 이러한 부문은 데이터 추출, 생체 인식 매칭, 문서 검증 및 생체 인식 검증 작업을 수행하며, 수락 신호를 반환받으려면 모두에서 긍정적인 결과가 도출되어야 합니다. 이러한 각 기술 부문을 서비스하는 여러 AI 시스템의 집합이 IDV 애플리케이션을 구성하지만, IDV 애플리케이션에는 상당량의 비 AI 기반 알고리즘도 포함되어 있다는 점에 유의해야 합니다. Entrust의 제품은 AI/ML 기반 알고리즘과 AI 기반이 아닌 알고리즘, 즉 "기존" 컴퓨터 코드를 결합하여 만들어졌습니다.

Entrust는 AI를 책임감 있게 활용하여 더 빠르고 일관된 데이터 처리를 가능하게 하며, 이를 통해 최종 사용자에게 더 원활하고 안전한 환경을 제공합니다. Entrust의 시스템은 가능한 한 개인 데이터에 대한 인적 검토를 최소화하도록 고안되어 최종 사용자 정보의 불필요한 노출을 줄이는 데 도움이 됩니다.

AI는 Entrust의 ID 확인(IDV) 제품 포트폴리오 전반에 걸쳐 다음과 같은 용도로 사용됩니다.

• 정부 발급 신분증 사진이나 동영상이 진본인지, 아니면 조작 및/또는 사기 징후를 보이는지 여부를 표시합니다.
• 여권 또는 운전면허증 등의 문서 유형을 분류합니다.
• 이름 또는 생년월일 등 문서 이미지나 동영상에서 관련 정보를 추출합니다.
• 최종 사용자가 제공한 얼굴 생체 정보가 진본인지 그리고 신분증에 표시되어 있는 사람과 일치하는지 여부를 표시합니다.

Entrust의 솔루션은 진위성이나 잠재적 사기 여부를 나타내는 패턴을 식별하도록 고안되었으며, 조직이 정보에 입각해 신뢰와 안전에 대한 결정을 내리는 데 도움이 됩니다. 결과는 확정적인 판단이 아닌 위험 지표로 해석해야 하며, 다른 관리 및 확인 절차와 함께 사용해야 합니다.

• 정부 발급 신분증 사진/동영상
• 얼굴 생체 인식 사진/동영상

모든 애플리케이션은 딥 러닝 모델을 사용하며, 애플리케이션에 따라 특정 패러다임이 적용됩니다. 이러한 모델은 일반적으로 사전 학습을 거친 후 자체 데이터 세트를 통해 성능(정확도 및 공정성 모두)을 최적화하기 위해 미세 조정됩니다.

• 이진 분류 모델: 문서 사기 감지 및 생체 인식 활성 여부 감지는 이진 분류 모델을 사용하여 입력한 이미지/동영상이 딥페이크와 같이 사기성으로 변조되거나 고의적 방해로 조작된 것이 아니라 진본일 확률을 평가합니다.
• 다중 클래스 분류 모델: 문서 분류는 다중 클래스 분류 모델을 사용하여 입력받은 문서 이미지에 대해 가장 가능성이 높은 문서 유형을 반환합니다.
• 비전-언어 모델(VLM): 문서 추출은 문서 인텔리전스를 위해 비전 언어 모델(VLM)을 사용합니다.
• 얼굴 인식 모델: Entrust의 애플리케이션은 실시간으로 촬영된 셀카나 동영상 및 정부에서 발급한 신분증, 또는 이전에 촬영된 셀카나 동영상에서 가져온 이미지 간의 얼굴 비교를 수행하기 위해 지도 학습 모델을 사용합니다. 이 모델은 각 얼굴 이미지에 대한 수치적 표현("임베딩")을 생성하고 임베딩 간의 유사성을 측정하여 두 이미지가 동일한 사람의 이미지일 가능성을 판별합니다. 이를 임베딩 기반 1:1 또는 1:N 생체 인식 확인이라고 합니다.

Entrust의 AI 모델은 체계적인 벤치마킹 프로토콜을 사용하여 성능(정확도와 공정성 모두)을 최적화합니다. 모델은 학습을 거쳐 세부 조정된 후 최종 사용자 데이터에서 수집된 데이터 세트를 철저히 벤치마킹합니다. Entrust는 실제 운영 중 균일하게 샘플링된 품질 검사(QC) 데이터를 사용하여 주어진 모델의 참 거짓 수락/거부 비율에 대한 편향되지 않은 추정치를 확보합니다. 또한, Entrust의 책임감 있는 AI 원칙에 따라 실제 분석가가 비율 출력을 평가하여 모델 성능을 지속적으로 개선하는 Human in the Loop(HITL)라는 피드백 프로세스를 채택했습니다.

Entrust의 AI 기반 시스템을 사용할 때 Entrust가 데이터를 어떻게 처리하는지 이해하는 데 도움이 되도록 다음 주요 사항을 참고해 주십시오.

• AI를 활용하는 방법에는 최종 사용자의 개인 데이터를 처리하는 것이 포함됩니다. Entrust는 합법적인 근거가 있는 경우에만 해당 개인 데이터를 처리합니다. 개인정보 사용에 대한 자세한 내용을 알아보려면 IDV 제품 개인정보 보호 고지를 참조하십시오.
• Entrust는 AI 모델과 관련 데이터에 대한 액세스를 특정 직무에 필요한 개인으로만 제한합니다.
• Entrust는 전송 중과 저장 중에 데이터를 암호화합니다.

잠재적으로 이어받는 편향성

실제 데이터를 기반으로 학습된 대부분의 AI 시스템과 마찬가지로, 본 모델의 학습 및 개선에 사용된 데이터 세트로부터 이어받는 편향성이 반영될 수 있습니다. 학습 데이터의 다양성은 국가와 인구통계 그룹에 따라 다르며, 이로 인해 일부 모집단이나 문서 유형의 성능에 차이가 생길 수도 있습니다. Entrust는 이러한 요소를 적극적으로 모니터링하고 데이터 재조정, 재학습, 공정성 테스트와 같은 조치를 취하여 사용자 그룹 간 의도치 않은 성능 차이를 줄이고 있습니다.

이어받는 편향성의 잠재적 원인은 다음과 같습니다.

• 학습 데이터 구성: 초기 모델 개발에 사용된 공개적으로 사용 가능한 데이터 세트에는 특정 지역, 얼굴 특징 또는 영상 처리 조건이 지나치게 많이 포함되었을 수 있습니다.
• 이미지 품질 및 디자인: 사진 품질, 인쇄 표준, 홀로그램 또는 보안 기능의 차이로 인해 문서 유형에 따라 성능에 영향을 미칠 수 있습니다.
• 캡처 조건: 조명, 카메라 장치 또는 이미지 수집 방법의 차이가 환경 간 모델 결과에 영향을 미칠 수 있습니다.

편향성 완화를 위한 노력

Entrust의 AI 시스템은 의도치 않은 편향성을 최소화하고 인구통계 및 지리적 그룹 전반에 걸쳐 공정한 결과를 도모하기 위해 개발하고 지속적으로 개선 중입니다. 편향성을 완화하기 위해 Entrust는 다음을 활용합니다.

• 다양한 지역 및 인구 통계의 대표성을 보장하기 위해 모델 학습 중에 균형 잡힌 적응형 샘플링 기술을 사용합니다.
• 국가, 대륙, 성별에 따른 정기적인 성능 평가를 통해 불평등을 파악하고 해소합니다.
• 정확도를 높이기 위해 소수 집단에 대한 학습 비중을 높이는 동적 샘플링 조정을 사용합니다.
• 다양한 이미지 유형과 조건에서 모델 일반화를 강화하기 위해 실제 도메인 특정 데이터(예: 셀카에서 문서 비교)에 대한 미세 조정을 수행합니다.

이러한 조치를 통해 성능 격차를 크게 줄일 수 있지만, 어떤 AI 모델도 편향에서 완전히 자유로울 수는 없습니다. Entrust는 책임감 있는 AI 개발 프로세스의 일환으로 투명성, 지속적인 평가, 지속적인 개선을 위해 최선을 다하고 있습니다.

혁신적인 기술을 책임감 있게 개발하려는 Entrust의 노력에 대한 자세한 내용은 ICO 샌드박스 보고서를 참조하십시오.

AI는 다음과 같은 특정 제한을 받을 수 있습니다.

• 범위: Entrust의 AI는 사기 방지를 위해 특별히 고안되었습니다.
• 언어: Entrust의 AI는 라틴 문자 및 아랍 문자 기반 언어를 사용하는 다국어 입력을 지원합니다.
• 컨텍스트: Entrust의 AI는 입력 내용을 사기 또는 진실임을 평가합니다.
• 환각: 제한된 사례에서, 소스 문서에서 정보를 부정확하게 추출하면 Entrust의 AI가 일관되지 않은 결과를 생성할 수 있습니다.

Entrust는 Human in the Loop(HITL) 모델을 활용해 고객에게 ID 확인 서비스를 제공하며, 이는 Entrust AI 시스템 작동 방식의 핵심입니다. 이 과정을 통해 숙련된 분석가는 모델 출력을 정기적으로 검토, 검증 및 개선하여 Entrust의 책임감 있는 AI 원칙에 따라 성능과 정렬을 개선합니다.

실제 운영을 위해 모델을 출시하기 전에 전문가는 분석 대시보드와 통제된 A/B 테스트를 사용하여 성능을 평가하고, 결과가 품질과 공정성에 대한 기준을 충족하는지 확인합니다. 또한 실제 검토자는 데이터 라벨링 및 확인을 감독하여 시스템 개선에 사용되는 학습 데이터가 정확하고 대표성이 있는지 확인합니다. 일부 제품의 경우 AI가 비정상적이거나 불확실한 입력을 감지하면 실제 전문가가 실시간으로 대응하여 결과를 평가합니다.

Entrust는 AI 시스템을 개선하기 위해 피드백을 환영합니다. 잠재적인 부정확성에 대한 세부 정보를 제공하거나 경험을 공유하려면 [email protected](으)로 이메일을 보내주십시오.

Entrust는 고객이 자신의 데이터에 대한 완전한 가시성과 통제권을 가져야 하며, 이를 통해 데이터가 서비스 개선에 어떻게 기여하는지 최종 사용자에게 투명하게 공개할 수 있도록 지원해야 한다고 생각합니다.

Entrust의 ID 확인(IDV) 시스템은 머신러닝을 사용하여 정확성을 높이고, 이상 징후를 감지하며, 전반적인 성능을 개선합니다. 이러한 프로세스에 참여하는 것은 전적으로 고객의 재량에 달려 있습니다. Entrust의 IDV는 옵트아웃 방식으로 운영됩니다. 고객이 거부하면 해당 고객 데이터 확인은 모델 학습을 포함한 모든 머신러닝 활동에서 제외됩니다. 고객은 최종 사용자 데이터가 Entrust 서비스 개발 및 개선에 사용되는 여부를 완벽하게 관리할 수 있으며, 계정 구성을 통해 언제든지 사용자 정의가 가능합니다.

고객이 머신러닝을 거부하면 자동으로 품질 관리(QC) 프로세스에서도 제외됩니다. 표준 관행의 일환으로 모든 확인 결과의 약 3%를 매달 무작위로 검토하여 정확성을 검증하고 지속적인 개선을 지원합니다. 이러한 QC 인사이트는 모델의 신뢰성을 강화하는 데 도움이 되지만, 거부하는 경우 고객의 확인이 피드백 주기에서 제거됩니다.

고객이 머신러닝이나 QC에 참여하지 않기로 선택하더라도 Entrust 시스템은 분석, 벤치마킹, 통계 보고와 같은 합법적인 비즈니스 목적을 위해 익명화되고 집계된 데이터를 처리할 수도 있습니다. 집계된 데이터에는 개인 식별 정보(PII)가 포함되지 않습니다.

Entrust는 편향성 모니터링과 공정성 평가를 하나의 지속적인 과정이라고 생각합니다. Entrust의 AI 모델은 성능을 향상하고 문제를 해결하기 위해 정기적으로 검토 및 업데이트됩니다. 불균형이 발견되면 학습 데이터, 샘플링 전략 또는 보정 매개변수를 조정하여 균형과 정확도를 개선합니다.

이러한 노력은 책임감 있는 AI 개발에 대한 Entrust의 광범위한 노력의 일환이며, 이를 통해 모든 사용자 집단에서 확인 기술을 최대한 정확하고 투명하게 유지합니다. Entrust는 매년 또는 중요한 변경 사항이 발생할 때마다 이 고지를 업데이트하여 최신 정보를 제공합니다.

최종 업데이트: 2025년 10월 28일