연구 계보

이어받은 연구

우리의 연구 계보에서 먼저 유지해야 할 것은 mixed-initiative interaction이다. Horvitz의 1999년 연구는 사람이 직접 조작하는 방식과 자동화된 서비스가 서로 배타적인 선택이 아니며, 적절하게 결합될 수 있다는 문제를 다뤘다. Lyotic은 이 관점을 받아들인다. 사용자는 처음에만 요청하고 마지막에 결과를 받는 관찰자가 아니라, 진행 중인 업무를 해석하고 수정하며 방향을 바꿀 수 있어야 한다. 다만 Lyotic은 그러한 개입이 어떤 대상과 권한에 연결되고 실제 실행에 어떻게 반영되는지까지 명시하려 한다.

Parasuraman, Sheridan, Wickens의 2000년 자동화 연구는 자동화를 하나의 높고 낮은 수준으로만 취급하지 않고 정보 획득, 분석, 결정과 행동 선택, 실행이라는 기능으로 나눴다. 이 구분은 Lyotic의 권한 모델에 직접적인 근거가 된다. 에이전트가 데이터를 읽을 수 있다는 사실은 그 데이터를 변경해도 된다는 뜻이 아니다. 분석을 맡겼다는 사실도 최종 결정을 위임했다는 뜻이 아니다. Lyotic에서 능력과 권한은 작업별로 구분되어야 하며, "자율성 80%" 같은 단일 수치로 대체될 수 없다.

Interface plasticity와 SUPPLE 계열 연구는 사용 환경이 달라져도 사용성을 유지하면서 표현을 바꾸는 문제를 다뤘다. 특히 SUPPLE은 장치 제약과 예상 사용자 행동의 비용을 고려해 표현을 선택하는 접근을 제시했다. 따라서 하나의 의미 구조가 여러 인터페이스로 표현된다는 발상 자체를 Lyotic의 발명으로 주장할 수는 없다. Lyotic이 구체화하려는 것은 표현 선택의 입력에 위임된 업무의 증거 상태, 허용된 행동, 결과의 영향, 실행과 검증 상태를 포함하고, 그 표현이 업무의 의미를 왜곡하지 않는지를 검증하는 방식이다.

Amershi와 동료들의 Human-AI Interaction Guidelines는 기대 설정, 오류 대응, 수정 가능성, 사용자 통제 같은 원칙을 제공한다. Lyotic은 이 원칙을 대체하지 않는다. 대신 "사용자가 AI의 오류를 수정할 수 있어야 한다"는 원칙을 더 구체적인 관계로 내린다. 사용자가 어떤 Observation이나 Interpretation을 수정하는지, 그 수정이 어떤 Claim과 Recommendation을 더 이상 유효하지 않게 하는지, 이미 승인된 행동을 다시 검토해야 하는지, 화면은 어떤 상태로 바뀌어야 하는지를 정의한다. 여기서 디자인 시스템의 역할은 원칙을 예쁘게 설명하는 것이 아니라, 반복 구현 가능한 행동 계약으로 만드는 것이다.

신뢰에 관한 연구는 Lyotic의 목표를 더 분명하게 제한한다. Lee와 See가 다룬 appropriate reliance는 자동화를 최대한 믿게 만드는 것이 아니라, 그 능력과 한계에 맞게 의존하도록 만드는 관점이다. Bansal과 동료들의 연구에서는 설명이 인간과 AI의 상호보완적 성과를 추가로 높이지 않았고, 정답 여부와 관계없이 AI 권고의 수용 가능성을 높이는 결과가 나타났다. 따라서 Lyotic은 설득력 있는 설명과 판단을 지지하는 증거를 같은 것으로 취급하지 않는다. 설명이 더 유창해졌다는 이유로 근거가 강해졌다고 표시해서는 안 된다.

Buçinca와 동료들의 연구에서는 더 신중하게 생각하도록 유도하는 개입이 과도한 의존을 줄였지만, 주관적 선호와의 상충도 나타났다. Plan-Then-Execute 연구 역시 계획의 품질과 사용자 개입이 중요하며, 그럴듯한 계획 자체가 적절한 신뢰를 보장하지 않는다는 문제를 보여준다. 이로부터 우리가 도출하는 설계 방향은 모든 단계에 승인을 붙이는 것이 아니다. 실제 결과를 바꾸는 판단 지점을 찾아 그 순간에 필요한 근거와 선택권을 제공하는 것이다. 개입의 횟수보다 개입의 위치와 내용이 중요하다.

Human-Agent Communication 연구는 이러한 문제를 에이전트의 의도, 현재 행동, 부수 효과, 결과 확인이라는 질문으로 구체화한다. Magentic-UI는 공동 계획, 공동 작업, action guard 등 실제 인간 개입 메커니즘을 탐구한다. Generative Interfaces for Language Models와 DuetUI는 대화 응답을 넘어 업무에 적합한 UI를 생성하고 사용자의 직접 조작을 후속 생성에 반영하는 방향을 보여준다. 이 연구들 때문에 Lyotic의 차별점을 "AI가 상황에 따라 UI를 만든다"거나 "사람이 중간에 승인한다"는 수준에 둘 수 없다. 그 기능들은 이미 중요한 연구 대상이자 구현 대상이다.

후속 연구에서 특히 중요한 것은 Affora다. Affora는 사람이 보는 시각적 표현과 에이전트가 읽는 의미 구조를 구분하고, 컨트롤, 상태, 선택지, 결과가 기계가 읽는 표현에서도 복구 가능해야 한다는 방향을 디자인 시스템과 실행 가능한 검사로 다룬다. 보고된 이점은 해당 규칙이 해결하는 결함이 존재하는 조건에서 나타났으며, 모든 인터페이스와 관찰 방식에 대한 보장은 아니다. 이 연구를 반영하면 "시각적 자유를 유지하면서 의미를 보존하는 에이전트 친화적 디자인 시스템"이라는 설명만으로는 Lyotic의 독자적 기여가 충분하지 않다.

Agent-Integrated Software 연구는 더 가까운 구조적 선행 연구다. 이 연구는 업무 수준의 상호작용과 애플리케이션의 실제 행동을 연결하는 계약, 역할별 권한, 제어 전이, 결과 증거, 변경되는 의존성에 따른 보증의 범위를 다룬다. 개별 도구 호출이 유효하고 자격 증명이 존재한다는 사실만으로 전체 상호작용의 적합성이 성립하지 않는다는 점도 명시한다. 따라서 Work Case와 권한, 실행 결과를 연결하는 일반적 아키텍처 전체를 Lyotic만의 새로운 발견처럼 제시해서는 안 된다.

EffectMatch 연구가 추가하는 가장 중요한 구분은 승인된 호출과 승인에 부합하는 실제 효과가 같지 않다는 것이다. 요청한 필드는 정확하게 변경되었지만 승인하지 않은 다른 기록도 함께 바뀔 수 있다. 승인 이후 조건이 바뀔 수도 있고, 원격 요청이 실행된 뒤 응답만 사라질 수도 있다. 이 연구는 특정 실행에 대한 승인, 실제 지속되는 결과, 이후 작업의 진행 여부를 연결하며, 이를 관찰하고 통제할 수 있는 실행 경계의 조건을 명시한다.

주장하지 않는 것

그 때문에 현재의 novelty 표현은 "최초의 적응형 AI 디자인 시스템"이 아니다. 독립적인 업무 상태와 증거, 권한, 결과를 제한된 감독 표현으로 연결하는 계약과 구현을 제시하고, 그 계약이 의미의 왜곡을 어떻게 막으며 사람의 감독 경험에 어떤 영향을 주는지 평가한다는 것이 더 정확하다. 선행 연구를 많이 묶었다는 사실보다, 검증 가능한 새 연결을 어디에 만들었는지가 중요하다.

우리의 연구 기여는 이 모든 요소를 포함한다고 선언하는 데서 끝나지 않는다. EBSRC가 어떤 입력과 조건에서 표현의 충실성을 유지하는지, 어떤 위반을 자동으로 검출하는지, 어떤 감독 과업에서 사람의 이해와 개입을 개선하는지 보여줘야 한다. Affora가 다루는 에이전트의 인터페이스 조작 가능성, Agent-Integrated Software가 다루는 애플리케이션 수준 계약, EffectMatch가 다루는 실제 효과의 검증과 연결되면서도, Lyotic의 표현 계층에서 무엇을 추가로 해결했는지가 남아야 한다.

연결되지만 다른 역할

Systead는 이 구조를 가장 직관적으로 보여주는 첫 적용 제품이다. Systead가 해결하려는 문제는 기존 ERP나 마켓플레이스가 모두 고장 나 있다는 것이 아니다. 각 도구가 자기 범위에서는 정상적으로 동작하더라도, 서로 다른 기록이 같은 사업 현실에 어떤 영향을 주는지 관리하는 주체가 없을 수 있다는 것이다. Systead가 시스템 사이의 업무 관계를 이해하고 유지한다면, Lyotic은 그 관계와 판단을 사람이 이해하고 개입할 수 있는 형태로 표현한다. Systead의 "Different representations. Same reality."와 Lyotic의 "Form adapts. Meaning persists."는 연결되지만 같은 제품 정의는 아니다.

H.A.R.D. Protocol 역시 Lyotic과 합쳐서는 안 된다. H.A.R.D.는 결과물 안에 들어간 선택을 목적, 대안, 영향, 구현, 증거와 연결해 검토하는 방법이다. Lyotic은 그 검토를 받는 인터랙션 시스템이다. 예를 들어 H.A.R.D.는 "왜 여기서 자동으로 인터페이스를 확장하는가"라는 설계 판단을 검토한다. Lyotic은 그 판단이 채택되었을 때 어떤 업무 상태가 어떤 표현을 요구하고, 그 표현이 무엇을 보존해야 하는지를 명세한다. 전자는 선택을 평가하고, 후자는 선택된 원칙을 제품의 동작으로 구현한다.