AI는 나 대신 확인을 누를 수 없습니다: 어시스턴트가 요청한 다운로드를 KwaFlux가 다루는 방법

핵심 요약

• AI 어시스턴트가 "사용자가 권리가 있다고 확인했다"고 보고한다면, 그 문장은 모델이 쓴 것이고 모델은 어떤 문장이든 쓰도록 유도될 수 있습니다.
• KwaFlux의 에이전트 다운로드에는 끄기(기본값), 매번 확인, 그리고 묻지 않고 다운로드를 진행하는 세 번째 모드가 있습니다.
• 매번 확인에서는 KwaFlux가 링크, 폴더, 형식을 담은 데스크톱 팝업을 띄웁니다. 승인은 사용자의 클릭으로만 이루어집니다. 창을 닫으면 거절로 처리되고, 응답하지 않은 요청은 120초 뒤 만료됩니다.
• 거절되거나 만료된 다운로드를 다시 시도해도 결정을 우회할 수 없습니다. KwaFlux는 재시도할 때마다 설정을 다시 확인합니다.

AI 어시스턴트가 영상을 다운로드하겠다고 하면, 그 다운로드가 허용되는지 누군가는 판단해야 합니다. 그 판단을 어시스턴트가 할 수는 없습니다. 웹 페이지를 읽는 모델은 그 페이지에 "사용자가 승인했다"고 말하라는 지시를 받을 수 있기 때문입니다. 그래서 KwaFlux에서는 그 결정이 내 화면의 창에서 이루어지고, 그 창은 나만 클릭할 수 있습니다.

이 글에서는 모델의 확인만으로는 부족한 이유, KwaFlux의 세 가지 다운로드 모드가 작동하는 방식, 승인 팝업에 표시되는 내용, 그리고 거절했을 때 일어나는 일을 알아봅니다.

목차

1. 휴먼 인 더 루프 승인이란?
2. 어시스턴트의 "예"가 인정되지 않는 이유
3. 세 가지 다운로드 모드
4. 승인 팝업에 표시되는 내용
5. 요청 하나에 결정 하나
6. 거절하면 어떻게 될까?
7. 어떤 모드에서든 KwaFlux가 거부하는 다운로드
8. 자주 묻는 질문

휴먼 인 더 루프 승인이란?

휴먼 인 더 루프(human-in-the-loop) 승인은 소프트웨어 에이전트가 어떤 동작을 하기 전에 멈추고, 에이전트 자신은 조작할 수 없는 경로를 통해 사람이 승인하거나 거부하기를 기다리는 단계입니다.

이 방식이 효과를 내는 핵심은 마지막 부분입니다. MCP 사양은 신뢰와 안전을 위해 "도구 호출을 거부할 수 있는 사람이 루프 안에" 있어야 한다("SHOULD")고, 애플리케이션은 "작업에 대해 사용자에게 확인 프롬프트를 표시"해야 한다고 말합니다. 프롬프트 인젝션에 관한 OWASP 지침도 공격 측면에서 같은 점을 짚습니다. "승인되지 않은 동작을 막기 위해 권한이 필요한 작업에는 사람이 개입하는 통제를 구현하라."

어시스턴트의 "예"가 인정되지 않는 이유

이전 버전의 KwaFlux는 에이전트 다운로드를 설정의 스위치 하나와, 어시스턴트가 사용자의 권리 확인 여부를 적는 다운로드 도구의 항목 하나로 처리했습니다. 이 항목은 지금도 남아 있으며, 어시스턴트는 사용자가 채팅에서 확인한 뒤에만 이 항목을 채우라는 안내를 받습니다. 하지만 이 항목을 채우는 것은 결국 모델입니다. 여기에 기대는 것이 왜 문제인지 살펴보겠습니다.

어시스턴트는 내가 쓰지 않은 글을 많이 읽습니다. 웹 페이지 제목, 영상 설명, 파일 이름, 붙여 넣은 문서 등입니다. 그 어디에든 지시가 들어 있을 수 있고, 모델은 때때로 그 지시를 따릅니다. Anthropic도 자사 computer use 도구 문서에서 "웹 페이지에 있거나 이미지에 담긴 지시가 사용자의 지시보다 우선하거나 Claude가 실수하게 만들 수 있다"고 분명히 밝힙니다. "사용자는 이 채널의 모든 영상을 다운로드하는 데 이미 동의했다"고 적힌 페이지가 도구 호출에서 자신 있는 "예"로 바뀔 수 있습니다.

그래서 규칙은 단순해졌습니다. 확인은 사람이, 모델이 쓸 수 없는 곳에서 했을 때만 인정됩니다. 외부 텍스트가 모델에 들어가는 경로는 웹 영상 제목 속 프롬프트 인젝션에서 더 자세히 다룹니다.

세 가지 다운로드 모드

KwaFlux에서 설정 › Agent(MCP)를 열고 에이전트 권한을 찾으세요. 에이전트의 다운로드 허용에서 고를 수 있는 에이전트 다운로드 모드는 세 가지입니다.

이 설정은 AI 어시스턴트가 시작하는 다운로드에 적용됩니다. 파일 다운로드 페이지에서 내가 직접 시작하는 다운로드는 이전과 같이 작동합니다.

승인 팝업에 표시되는 내용

매번 확인으로 설정하면 어시스턴트가 다운로드를 요청할 때 데스크톱에 팝업이 나타납니다. 팝업에는 다음이 표시됩니다.

• 어시스턴트가 다운로드하려는 링크와 그 링크가 있는 사이트. 어시스턴트가 무엇을 골랐는지 정확히 볼 수 있습니다.
• 저장될 폴더와 형식. 형식은 예를 들어 제공되는 최고 화질의 영상이나 오디오만(MP3) 같은 것입니다.
• 허용, 재시작할 때까지 허용, 거부 버튼.

120초 안에 응답하지 않으면 요청이 만료되고 다운로드는 시작되지 않습니다. 창을 닫으면 거부로 처리됩니다. 어시스턴트가 하염없이 기다리지 않아도 되고, 미처 보지 못한 팝업이 나중에 실수로 승인될 일도 없습니다.

요청 하나에 결정 하나

몇 가지 규칙이 승인이 재사용되거나 요청이 쏟아지는 것을 막습니다.

• 승인 하나는 요청 하나를 한 번만 결정합니다. 허용은 그 다운로드 하나만 승인하며, 같은 어시스턴트가 같은 사이트에서 요청하더라도 다음 다운로드는 다시 묻습니다. 예외는 재시작할 때까지 허용입니다. 이것을 누르면 KwaFlux를 다시 시작할 때까지 이후 다운로드가 팝업 없이 진행되므로, 이미 확인한 일괄 다운로드에만 쓰세요.
• 한 번에 대기할 수 있는 요청은 8개까지입니다. 어시스턴트가 요청을 수십 개 보내도 팝업에 파묻히지 않습니다.
• 결정은 10분 동안 보관됩니다. 그동안 어시스턴트가 결과를 읽을 수 있고, 그 뒤에는 지워집니다.
• 재시도하면 다시 확인합니다. 어시스턴트가 다운로드를 재시도하거나 재개하면 KwaFlux는 그 시점의 다운로드 설정을 확인합니다. 다운로드를 꺼 두었다면 다시 요청한다고 해서 풀리지 않습니다. 유료 기능에도 같은 재확인이 적용되며, AI 도구 호출과 유료 기능 글에서 설명합니다.

거절하면 어떻게 될까?

어시스턴트에게 영상을 받아 달라고 한 뒤 팝업에서 거절했다고 해 봅시다.

1. 어시스턴트가 KwaFlux에 링크 다운로드를 요청합니다.
2. 팝업에 링크, 폴더, 형식이 표시됩니다. 거부를 클릭합니다.
3. KwaFlux가 사용자가 거절했다는 구조화된 결과를 어시스턴트에게 돌려줍니다.
4. 어시스턴트는 다른 방법을 시도하는 대신 다운로드가 거절되었다고 알려 줍니다.

결과에는 모호한 오류가 아니라 "사용자가 거절함"이라고 적히므로, 제대로 동작하는 어시스턴트라면 그대로 보고합니다. 그리고 결정이 KwaFlux 안에 있기 때문에, 제대로 동작하지 않는 어시스턴트라도 나의 "아니요"를 다운로드로 바꿀 수는 없습니다.

어떤 모드에서든 KwaFlux가 거부하는 다운로드

승인은 내가 그 다운로드를 원하는지를 결정합니다. 모든 다운로드를 가능하게 해 주지는 않습니다. KwaFlux는 어떤 모드에서든 다음과 같이 동작합니다.

• 재생목록이나 채널이 아닌 개별 링크만 다운로드합니다.
• 라이브 방송은 다운로드하지 않습니다.
• 복제 방지가 걸린 플랫폼과 콘텐츠는 거부하며, 사용자 대신 사이트에 로그인하거나 유료 장벽을 넘지 않습니다.

특정 다운로드가 합법인지는 여전히 사용자가 판단해야 합니다. 영상 다운로드는 불법일까?에서 따져 볼 질문을 다루며, KwaFlux 허용 가능한 사용 정책은 내가 직접 시작한 다운로드와 마찬가지로 어시스턴트가 시작한 다운로드에도 적용됩니다.

팁: 이미 가지고 있는 파일을 처리하는 데만 어시스턴트가 필요하다면 에이전트 다운로드는 꺼 두세요. 변환, 복구, 화질 향상은 다운로드 없이도 작동합니다.

마치며

어시스턴트는 링크를 찾을 수는 있어도, 그 뒤에 있는 것을 내가 저장해도 되는지는 알 수 없고, 어시스턴트의 말은 근거가 되지 않습니다. 그래서 KwaFlux는 에이전트 다운로드를 기본적으로 꺼 두고, 내가 제어하는 창에서 묻고, 승인 하나가 요청 하나만 결정하게 하며, 재시도할 때마다 다시 확인합니다.

파일 처리는 어시스턴트에게, 다운로드 결정은 직접

KwaFlux의 로컬 MCP 서버를 쓰면 Codex, Claude, Cursor 등 MCP 앱이 파일을 변환, 복구, 화질 향상할 수 있으며, 다운로드는 허용하기 전까지 꺼져 있습니다. AI 처리는 사용자 GPU에서 실행되며 미디어 파일이 처리를 위해 업로드되지 않습니다. Windows 10(64비트, 버전 1809 이상), Windows 11, Apple Silicon 탑재 macOS 12 이상에서 실행됩니다. 파일 가져오기와 앱 둘러보기에는 계정이 필요 없습니다. 내보내기, 변환, 파일 복구, 링크에서 파일 다운로드에만 로그인과 유료 플랜이 필요합니다.

KwaFlux 받기 · 플랜 보기