메일 분류, 문서 인식, 견적서 자동 작성, 회계 연동 — 이런 건 요즘 누구나 합니다.
여기에는 그것들을 뺐습니다.
남은 것은 AI가 대신 판단하고 대신 지르지 못하게 저희가 코드로 박아 둔 장치들입니다. 확신이 없으면 멈추고, 사람이 마지막 버튼을 누르고, 실패는 지우지 않고 남깁니다. 저희 회사(포장재 B2B)에서 매일 돌아가는 것만 적었습니다. 고객사에 만들어 드리는 것도 이 중에서 그 회사에 필요한 것부터 고릅니다.
[1]판단은 사람이, 실행은 시스템이
양면 동등 승인 가동 중
승인이 필요한 일은 메신저(슬랙)와 화면(대시보드) 양쪽에 같은 카드로 올라오고, 한쪽에서 누르면 반대쪽에서도 사라집니다. 어디서 보든 같은 것을 보고, 두 번 처리하거나 놓치는 일이 없습니다.
사람이 하는 곳 — 대표가 둘 중 편한 창에서 누릅니다.
확신 80점 미만은 잇지 않음 가동 중
거래처를 자동으로 붙일 때 확신이 80점을 못 넘으면 틀리게 붙이지 않고 따로 쌓아 둡니다. 정보가 더 들어와 80점에 닿을 때만 승인 카드로 올립니다. 「모르겠음」과 「점수 낮음」을 구분해 셉니다.
사람이 하는 곳 — 80점 넘은 묶음만 사람이 최종 확인.
최종발송 확인 게이트 가동 중
고객에게 나가는 메일·파일은 받는 사람이 볼 화면 그대로(받는이·제목·본문·첨부)를 먼저 보여주고, 그 실물을 본 뒤에만 보낼 수 있습니다. 설정 스위치가 아니라 건마다 거치는 절차입니다.
사람이 하는 곳 — 대표가 실물을 보고 [실제 발송]을 누릅니다.
합치기는 링크만, 삭제 없음 가동 중
중복된 거래처·명함을 합칠 때 원본을 지우지 않고 「이쪽으로 합쳐짐」 표시만 남깁니다. 확실한 것(전화·이메일 일치)만 자동, 애매하면 무조건 사람에게. 언제든 되돌릴 수 있습니다.
사람이 하는 곳 — 애매한 건은 전부 사람이 결정.
[2]실행 전에 반드시 확인하게 하는 장치
실행 전 과거기록 조회 강제 가동 중
견적·발주처럼 큰일을 시키는 도구는 최근 30분 안에 과거 기록을 조회하지 않았으면 실행을 막습니다. AI가 「전에 어떻게 했는지」를 안 보고 새로 지르는 것을 시스템이 차단합니다. 같은 도구를 연속으로 두 번째 부를 때와 검사 자체가 오류일 때는 통과시켜 일이 멈추지 않게 합니다.
사람이 하는 곳 — 조회하면 풀립니다. 사람이 깜빡해도 막힙니다.
회계 프로그램 삭제 호출 영구 차단 가동 중
회계(이카운트)로 나가는 호출 중 삭제·취소 계열은 코드가 감지해 예외 없이 막습니다. 끄고 켜는 설정이 아니라 코드에 박힌 차단입니다. 등록은 화면에서 사람이 확정 버튼을 눌렀을 때만.
사람이 하는 곳 — 기초 등록 확정은 사람.
검산 엔진 — 고치지 않고 알려만 준다 가동 중
서류에서 읽어낸 숫자는 합계·세액·중복 규칙을 통과해야 장부에 들어갑니다. 틀리면 고치지 않고 알려만 줍니다. 규칙은 한 벌만 두어 어디서든 같은 기준으로 잽니다.
사람이 하는 곳 — 최종 판단은 원본을 본 사람.
검사기를 찌르는 「바늘」 가동 중
홈페이지 검사기는 일부러 틀린 페이지를 넣어 정말 우는지 매번 스스로 확인합니다. 「돌아간다」와 「실제로 잡아낸다」는 다르기 때문입니다. 아무것도 못 잡는 검사가 초록불만 켜는 것을 막습니다.
사람이 하는 곳 — 검사 결과의 육안 확인.
[3]실패를 자산으로 바꾸는 구조
대화 ↔ 실제 변경 대조 가동 중
매일 아침 「어제 대화에서 정한 것」과 「실제로 바뀐 것」을 기계적으로 대조해 맞음 · 말만 함 · 몰래 바뀜으로 가립니다. 이 판정에 AI를 쓰지 않습니다 — 써 봤더니 없는 문제를 지어냈기 때문입니다.
사람이 하는 곳 — 결과 목록을 사람이 훑습니다.
작업과정 자동 적립 — 틀린 것까지 가동 중
일이 하나 끝날 때마다 확인한 것·판단·검증과 함께 틀린 것과 정정을 남기도록 되어 있습니다. 성공만 남기는 로그와 다릅니다. 앞의 실패가 적혀 있어야 다음 시도가 삽니다.
사람이 하는 곳 — 무엇을 배운 것으로 남길지.
스스로 제안, 실행은 승인 가동 중
시스템이 하루 2건씩 개선을 제안하고, 「이미 있는 것」을 다시 제안하지 않도록 코드를 먼저 대조합니다. 승인이 없으면 실행하지 않고, 넘어간 제안은 다음날 다시 필요한지 재평가합니다.
사람이 하는 곳 — 채택 여부는 사람.
[4]조용히 죽지 않는 시스템
야간 큐 — 사람이 있으면 저부하 가동 중
무거운 일(요약·분류·재색인)은 낮에 모아 두고 사람이 PC를 안 쓸 때 사내 AI가 처리합니다. 시계가 아니라 사람 감지가 우선입니다. 급한 일은 바로 처리됩니다.
사람이 하는 곳 — 기다릴 일이 없습니다.
알림 다중 경로 — 조용한 실패 금지 가동 중
경보는 메신저 → 파일 → 다른 메신저 → 저장소 순으로 닿을 때까지 경로를 바꿉니다. 알림 자체가 실패한 것도 실패로 셉니다. 로그만 남고 아무도 안 읽는 일을 막습니다.
사람이 하는 곳 — 경보를 받는 사람이 판단.
위 열세 가지는 전부 저희 운영 시스템(모듈 225개 · 무인 예약 작업 43개)에서 지금 돌아가는 것입니다. 정지 중인 기능은 적지 않았습니다.
[5]네 개의 화면
「진짜 될까?」에 대한 대답을 화면으로 보여드립니다. 거래처명·단가는 가립니다.
승인 카드 — 사람이 마지막에 누릅니다
AI가 초안을 만들고, 대표가 버튼 하나로 승인합니다. 승인 없이는 아무것도 밖으로 나가지 않습니다.
오늘의 큐 — 들어온 일부터 끝난 일까지
메일·주문·견적 요청이 자동으로 카드가 되어 들어오고, 어디까지 자동이고 어디부터 사람인지 구분됩니다.
견적서 자동 생성 — 공식 양식 그대로
규격·수량이 들어오면 회사 양식으로 견적서가 채워집니다. 발송 전 반드시 사람이 실물을 확인합니다.
이메일 자동 분류 — 급한 것부터 눈에 띄게
들어온 메일이 주문·정산·문의·광고로 자동 분류됩니다. 의심 메일은 보류하고, 실제 발송은 항상 사람 승인입니다.
[6]한 가지 규칙
AI가 만들되, 내보내는 것은 사람이 결정합니다.
그 순서가 저희 시스템에는 코드로 박혀 있어 우회할 수 없습니다.
대부분은 「검수하겠습니다」라고 계획을 씁니다. 저희는 「차단 장치가 이미 코드로 박혀 있습니다」라고 현재형으로 말할 수 있습니다.
[7]직접 보기
돌아가는 모습은 워크숍에서 직접 보여드립니다. 그날 아침 것도 보여드릴 수 있습니다.