프라이빗 AI는 왜 보안 정책이 아니라 실행 경계가 되어야 하는가

AI 서비스가 개인정보를 안전하게 다룬다고 말하려면 “우리는 보지 않는다”는 약속을 넘어 데이터가 어떤 상태로 계산되는지 보여줘야 한다.

TL;DR

프라이버시는 저장 후 삭제 정책만이 아니라 추론이 일어나는 실행 경계의 문제다.
동형암호는 데이터를 복호화하지 않고 계산하려는 모델을 제공한다.
이 기술이 모든 AI 요청을 당장 대체하는 것은 아니지만, 민감한 작업을 분리하는 제품 설계의 방향을 보여준다.
작은 AI 제품도 입력 상태, 처리 위치, 보존 범위, 완료 증거를 함께 설명해야 한다.

왜 지금 중요한가

AI 서비스는 문서, SQL, 고객 문의, 의료·재무 정보처럼 민감할 수 있는 원문을 점점 더 많이 받는다. 이때 “데이터를 학습에 사용하지 않는다”는 정책은 중요한 출발점이지만, 처리 순간의 데이터 노출 가능성까지 설명하지는 못한다.

사용자가 궁금한 질문은 더 구체적이다.

내 데이터는 어느 시점에 평문이 되는가? 누가 볼 수 있는가? 결과를 만든 뒤 무엇이 남는가?

프라이빗 AI의 다음 단계는 이 질문에 시스템 구조로 답하는 것이다.

핵심 흐름

정책은 약속이고, 실행 경계는 메커니즘이다

보존 기간과 학습 사용 여부를 적은 정책은 필요하다. 하지만 정책만으로는 추론 서버, 로그, 디버깅 도구, 운영자의 접근 범위를 모두 설명하기 어렵다.

실행 경계는 데이터가 이동하고 변환되는 경로를 정의한다.

브라우저 안에서 처리한다.
신뢰 실행 환경에서 처리한다.
암호화된 상태로 서버 계산을 시도한다.
결과만 반환하고 원문은 저장하지 않는다.

제품이 어느 경계를 선택했는지 공개하면 사용자는 보안 문구를 구조로 이해할 수 있다.

동형암호는 암호문 위의 계산을 목표로 한다

동형암호는 서버가 원문을 복호화하지 않고 암호화된 데이터에 연산을 수행하려는 암호학적 접근이다. Google의 HEIR와 Private Computing Toolkit은 이 방향을 컴파일러와 오픈소스 도구의 관점에서 실용화하려는 사례로 소개됐다.

핵심은 “서버가 정직하게 삭제할 것”에만 의존하지 않는다는 점이다. 데이터가 암호문인 상태로 유지되는 구간을 늘리면 서비스 제공자의 접근 경계를 기술적으로 좁힐 수 있다.

실용화는 단일 기술이 아니라 작업 분리에서 시작한다

동형암호가 모든 생성형 AI 요청의 기본 경로가 되었다고 해석하면 과장이다. 계산 비용, 지연, 지원 가능한 연산의 범위 같은 현실적 제약이 있다.

따라서 초기 제품은 작업을 나누는 방식이 현실적이다.

작업 유형	우선 검토할 실행 경계
민감하지 않은 초안 생성	일반 모델 API 또는 로컬 모델
개인정보 포함 변환	브라우저 로컬 처리 또는 마스킹
특정 통계·분류 계산	암호화 처리 가능성 검토
최종 결과 보관	최소 데이터·명시적 사용자 export

실제 사례 / 신호

Google의 Private Computing Toolkit과 HEIR 소개는 프라이버시를 “데이터를 서버에 보내지 않는다”는 단순한 선택지에서, 암호화된 데이터로 어떤 계산을 허용할지 설계하는 문제로 확장한다.

동시에 AI 에이전트의 실행 루프를 다룬 자료는 완료 조건과 제약을 먼저 정하라고 말한다. 두 흐름은 만난다. 신뢰할 수 있는 AI 제품은 모델 호출뿐 아니라 입력 상태, 실행 위치, 완료 증거를 함께 정의해야 한다.

실전 활용 팁: 프라이버시를 기능으로 설명하는 체크리스트

입력이 평문으로 존재하는 구간을 그린다.
서버 전송 전 마스킹·로컬 처리가 가능한 필드를 분리한다.
로그와 오류 리포트에 원문이 섞이지 않는지 확인한다.
결과가 생성됐다는 사실과 원문이 보관됐다는 사실을 구분한다.
사용자가 처리 경계와 export 결과를 직접 확인하게 한다.

바로 해볼 실험

민감한 SQL을 입력으로 받는 작은 변환기를 만든다고 가정해보자.

1단계: 브라우저에서 구문 분석과 ERD 렌더링을 처리한다.
2단계: AI 설명이 필요할 때 테이블명·컬럼명을 선택적으로 마스킹한다.
3단계: 요청 전후에 어떤 필드가 외부로 나갔는지 receipt를 제공한다.
4단계: 사용자가 원하면 로컬 JSON/Markdown으로 결과를 내려받게 한다.

이 실험은 동형암호를 당장 도입하지 않아도 프라이버시를 제품 표면으로 만들 수 있는지 검증한다.

리스크 / 반론

동형암호는 연산 비용과 지연 때문에 모든 모델 호출에 적합하지 않을 수 있다. “암호화되어 있다”는 말만으로 구현의 안전성이 보장되는 것도 아니다. 키 관리, 구현 버그, 출력에서의 정보 유출을 별도로 검토해야 한다.

원문 자료는 기술의 방향과 사례를 소개할 뿐, 특정 서비스의 상용 성능이나 보안 인증을 보장하지 않는다. 적용할 때는 처리 경계뿐 아니라 키 관리와 실제 로그 정책까지 확인해야 한다.

결론

프라이빗 AI의 경쟁력은 보안 페이지의 문장 수가 아니라 실행 경계를 얼마나 구체적으로 보여주는지에서 나온다. 모든 데이터를 암호문으로 처리하는 거대한 전환보다, 민감한 작업을 골라 처리 위치·보존·검증 증거를 분리하는 것이 현실적인 시작이다.

다음 AI 기능을 설계한다면 먼저 이 질문부터 답해보자.

이 기능은 사용자의 데이터를 어디에서, 어떤 상태로, 언제까지 계산하는가?