AI 윤리 및 책임

본 페이지는 아이센스가 EU AI Act(2024 발효) · 고위험 의료기기 AI · IEEE 7000 윤리 설계 · OECD AI 원칙 · UNESCO AI 윤리 권고에 정합한 AI 거버넌스·책임 체계를 통합 공시합니다. 연속혈당측정기(CGM) CareSens Air의 측정 알고리즘은 환자에게 직접 영향을 주는 High-Risk AI System으로 분류되어, 글로벌 표준에 따른 엄격한 거버넌스를 적용합니다.

1. 핵심 KPI 요약 (2025)

영역	핵심 KPI	2025 실적
AI 사고·오작동	CGM 알고리즘 측정 오차 발생률	ISO 15197 충족
AI 거버넌스	고위험 AI 등록·임상 평가	EU CE MDR + AI Act 동시 충족
AI 시판 후 감시	오작동 EU MDR Article 87 통보	0건
학습 데이터 거버넌스	환자 식별 정보 비식별화	100%

2. AI 윤리 정책 — 5대 원칙

아이센스는 OECD AI 원칙(2019) + UNESCO AI 윤리 권고(2021) + EU AI Act(2024)를 통합 적용한 5대 AI 윤리 원칙을 운영합니다.

인간 중심 (Human-Centric): AI는 환자의 건강 결정을 보조하되, 최종 의료 판단은 환자·의료진의 책임. AI 한계 명시.
안전성 (Safety): ISO 15197 정확도 기준 + EU MDR 임상평가 + ISO 14971 위험관리 통합 적용.
투명성 (Transparency): 측정 알고리즘 작동 원리·한계·정확도 사용설명서 공시.
공정성·비차별 (Fairness): 학습 데이터 인구통계 편향 점검 (연령·성별·인종·체형).
책임성 (Accountability): AI 거버넌스 위원회 + Person Responsible for Regulatory Compliance(PRRC) + 사고 대응 체계.

3. EU AI Act 정합 (High-Risk AI System 분류)

EU AI Act는 AI 시스템을 4단계 위험 등급으로 분류합니다. 아이센스 CGM CareSens Air는 고위험(High-Risk) AI에 해당하며, 다음 8개 요구사항을 충족합니다.

No.	EU AI Act 요구사항	아이센스 이행
1	위험관리 시스템 (Article 9)	ISO 14971 의료기기 위험관리 통합 적용
2	데이터·데이터 거버넌스 (Article 10)	학습 데이터 출처·정확성·편향성 정기 점검 + 환자 비식별화 100%
3	기술 문서 (Article 11)	EU MDR CER + Technical Documentation + Software Lifecycle (IEC 62304)
4	기록 보관 (Article 12)	측정 로그·오류 기록 정기 보관 (의료기기 추적성 표준)
5	투명성·정보 제공 (Article 13)	사용설명서에 AI 작동 원리·한계·정확도 명시 (혈당 급변동 시 손가락 채혈 권고 등)
6	인간 감독 (Article 14)	의료진·환자가 최종 판단 권한 보유 — AI는 보조 도구
7	정확성·안전성·견고성 (Article 15)	ISO 15197:2013 정확도 ±15% 95% 충족 + EMC IEC 60601-1-2 충족
8	품질경영시스템 (Article 17)	ISO 13485 QMS + ISO/IEC 42001 AI Management System 도입 검토 [TBD]

4. CGM 알고리즘 거버넌스

CareSens Air 연속혈당측정기(CGM)는 효소 반응 + 전기화학 신호 + 알고리즘 보정 + 무선 전송 4단계로 작동하며, 각 단계 거버넌스는 다음과 같습니다.

단계	AI/알고리즘 역할	거버넌스
1. 효소 반응	혈당 산화 — 전기화학 신호 생성	ISO 15197 정확도 기준
2. 전기화학 신호	μA 단위 전류 측정	IEC 60601-1-2 EMC
3. 알고리즘 보정	온도·간섭·체액 차이 보정	임상 데이터 학습 + EU CER 인증
4. 무선 전송	스마트폰·모니터 전송	ISO 27001 정보보안 + GDPR·HIPAA