AI 자동매매 프로그램, 뭐가 AI인가

상담에서 가장 자주 듣는 문장 중 하나가 "AI로 만들어 주세요"입니다. 그런데 이어서 "AI가 무엇을 해 주면 좋겠느냐"고 여쭤보면 대답이 세 갈래로 갈립니다. 어떤 분은 사람이 자는 동안 알아서 사고파는 것을 뜻하고, 어떤 분은 시장이 바뀌면 스스로 전략을 고치는 것을 뜻하고, 어떤 분은 어디가 오를지 찾아내는 것을 뜻합니다. 이 셋은 기술적으로 전혀 다른 이야기이고, 난이도와 비용과 실패 방식도 전혀 다릅니다. 이 글은 'AI 자동매매'라는 한 단어 안에 뒤엉켜 있는 것들을 갈라서, 머신러닝이 트레이딩에서 실제로 해내는 일과 구조적으로 어려운 일을 나누고, 코딩을 모르는 분이 판매자나 제작자에게 무엇을 물어야 하는지까지 정리합니다. 특정 제품을 평가하거나 추천하는 글이 아니며, 투자 자문도 아닙니다.

1. '자동'과 'AI'는 같은 말이 아니다

먼저 단어부터 정리하겠습니다. 헷갈릴 이유가 충분히 있는 단어들이라, 이걸 구분하지 못하는 것이 무지의 증거는 전혀 아닙니다. 파는 쪽에서도 자주 섞어 쓰기 때문입니다.

자동화는 사람이 정한 일을 사람 없이 반복하는 것입니다. 세탁기가 좋은 비유입니다. 세탁기는 물을 얼마나 받고 몇 분을 돌릴지 스스로 발명하지 않습니다. 사람이 코스를 고르면 그대로 실행할 뿐입니다. 그런데 그것만으로도 충분히 유용합니다. 밤에 자고 있어도, 회사에서 회의 중이어도 세탁이 됩니다. 대부분의 자동매매 프로그램이 이 자리에 있습니다. "5분봉에서 이 조건이 나오면 매수하고, 진입가 대비 마이너스 2퍼센트면 손절한다"는 문장을 사람이 정하고, 프로그램은 그 문장을 지치지 않고 반복합니다.

학습은 규칙 자체를 데이터에서 찾아내는 것입니다. 사람이 "이런 조건에서 사라"고 적어 주는 대신, 과거 데이터를 잔뜩 보여 주고 "여기서 무엇이 무엇과 연결되는지 네가 찾아라"라고 시킵니다. 이것이 머신러닝입니다. 결과물은 조건 문장이 아니라 모델이라는 숫자 덩어리이고, 사람이 그것을 문장으로 읽어 내기는 대체로 어렵습니다.

용어가 더 헷갈리는 이유는 '알고리즘', '퀀트', '시스템 트레이딩' 같은 말이 이 근처를 함께 떠다니기 때문입니다. 그 네 단어의 관계는 자동매매·시스템·알고리즘·퀀트 용어 4가지 정리에서 따로 다뤘습니다. 여기서는 한 줄만 짚고 넘어가겠습니다. 그 네 단어 중 어느 것도 '인공지능'을 뜻하지 않습니다. 규칙이 명시적이어도 알고리즘이고, 통계를 써도 퀀트이며, 학습이 전혀 없어도 시스템 트레이딩입니다.

2. 봇의 다섯 칸 중, AI가 들어갈 수 있는 자리는 한 칸이다

이 지점이 상담에서 오해가 가장 크게 벌어지는 곳입니다. 많은 분이 'AI 자동매매'를 들으면 프로그램 전체가 지능적으로 굴러가는 그림을 떠올리시는데, 실제 봇의 내부는 다섯 개의 칸이 순서대로 이어진 파이프에 가깝고, 그중 학습 모델이 들어갈 수 있는 자리는 사실상 한 칸입니다.

이 그림이 중요한 이유는 비용과 위험의 위치를 알려 주기 때문입니다. 시세를 안정적으로 받고, 주문을 올바른 유형으로 내고, 체결을 확인해 잔고와 맞춰 보고, 장애가 나면 알아차리는 일 — 이 네 칸은 학습을 하든 안 하든 똑같이 필요합니다. 그리고 실전 운영에서 실제로 계좌를 다치게 하는 사건의 상당수는 판단이 틀려서가 아니라 이 배관에서 터집니다. 주문이 중복으로 나가고, 네트워크가 끊긴 사이 포지션이 어긋나고, 손절 주문이 거부됐는데 아무도 몰랐던 식입니다. 이런 사고의 실제 유형은 자동매매 봇 장애·복구 플레이북과 주문 유형 완전 정리에 정리해 두었습니다.

3. 지금 'AI 자동매매'라고 불리는 것들의 세 층위

시장에서 AI라는 이름이 붙는 제품과 서비스는 대략 세 층위로 나뉩니다. 어느 층이 옳고 그르다는 이야기가 아니라, 층마다 기대할 수 있는 것과 검증 방법이 다르다는 이야기입니다. 그리고 이 분류는 제품 이름이 아니라 동작 방식을 기준으로 한 것이므로, 특정 제품이 어디에 속하는지는 반드시 판매처의 공식 설명으로 직접 확인하셔야 합니다.

층 A는 나쁜 것이 아닙니다. 앞서 말씀드린 대로 잘 만든 규칙 봇은 그 자체로 충분히 유용하고, 무엇보다 왜 그 주문을 냈는지 사람이 되짚을 수 있다는 큰 장점이 있습니다. 문제는 층 A인데 층 C인 것처럼 설명될 때 생깁니다. 구매자는 "시장이 바뀌면 알아서 적응하겠지"라고 기대하는데, 실제로는 고정된 조건이 계속 돌아갈 뿐이라 국면이 바뀌면 그대로 어긋납니다.

층 B는 가장 오해가 많은 자리입니다. "데이터로 숫자를 자동 조정한다"는 설명은 사실이지만, 그 조정이 과거에 가장 잘 맞았던 숫자를 고르는 일인 경우가 대부분입니다. 즉 미래를 배우는 게 아니라 과거에 맞추는 것에 가깝습니다. 이 구분이 왜 결정적인지는 수백 번 돌려 '최고'만 보여 주는 착시(데이터 스누핑)에서 자세히 다뤘습니다. 조합을 많이 시도할수록, 우연히 잘 맞은 조합이 반드시 하나쯤 나온다는 통계적 사실이 핵심입니다.

층 C는 진짜 학습이지만, 그렇다고 정확도가 보장되는 것은 아닙니다. 오히려 층 C를 제대로 운영하려면 층 A·B보다 훨씬 많은 절차가 붙습니다. 다음 두 장에서 그 이유를 나눠 보겠습니다.

4. 머신러닝이 트레이딩에서 실제로 잘하는 일 4가지

비판만 늘어놓으면 균형이 맞지 않습니다. 머신러닝이 이 분야에서 실제로 쓸모를 내는 자리는 분명히 있고, 공통점이 하나 있습니다. "미래를 맞히는 일"이 아니라 "현재를 정리하는 일"이라는 점입니다.

① 조건이 너무 많아 사람이 문장으로 못 적을 때

규칙 기반의 한계는 표현력입니다. "거래량이 평소보다 많고, 변동성이 어느 구간에 있고, 업종 내 상대 강도가 어떻고, 최근 며칠의 흐름이 어떤 모양일 때"처럼 조건이 열 개를 넘어가면 사람이 문장으로 적고 관리하기가 사실상 불가능해집니다. 학습 모델은 이런 다차원 조합을 하나의 함수로 압축하는 데 강합니다. 다만 압축된 결과를 사람이 다시 읽어 내기 어렵다는 대가가 따릅니다.

② 성격이 다른 데이터를 한 곳에 합칠 때

가격과 거래량 같은 숫자, 뉴스 텍스트, 공시 문서, 체결 흐름처럼 형태가 전혀 다른 재료를 하나의 판단으로 모으는 일은 규칙 문장으로는 다루기 힘듭니다. 이런 이종 데이터 통합은 학습 기반이 잘하는 영역에 속합니다.

③ 분류·필터링 같은 '정답이 분명한' 작업

예측이 아니라 분류에 가까운 일들이 있습니다. 뉴스가 특정 종목에 관한 것인지 아닌지 가려내기, 공시 문서에서 필요한 항목을 뽑아내기, 이상한 시세 데이터를 걸러내기 같은 작업입니다. 이런 일은 정답을 사람이 채점할 수 있어서 성능을 정직하게 측정하기 쉽고, 실제로 실무에서 가장 안정적으로 쓰이는 자리입니다.

④ 사람이 개입할 수 없는 속도의 반복 판단

수백 종목을 매 순간 같은 잣대로 훑어보는 일처럼, 사람의 집중력으로는 불가능한 반복 작업이 있습니다. 이때 학습 모델은 '더 똑똑해서'가 아니라 '지치지 않아서' 유용합니다.

5. 구조적으로 어려운 이유 5가지

여기가 이 글에서 가장 중요한 장입니다. 머신러닝이 이미지 인식이나 번역에서 보여 준 성과가 트레이딩에서 그대로 재현되지 않는 데에는, 노력이나 실력의 문제가 아닌 문제 자체의 성질에서 오는 이유들이 있습니다. 아래 내용은 학술·실무 문헌에서 반복적으로 지적되어 온 일반적인 논점을 비개발자 눈높이로 옮긴 것이며, 세부 결론은 연구마다 다르므로 원문 확인을 권합니다.

① 규칙이 바뀌는 게임 — 비정상성(non-stationarity)

고양이 사진을 알아보는 문제는 편합니다. 10년 전 고양이나 지금 고양이나 생김새가 같기 때문입니다. 시장은 다릅니다. 금융 시계열은 통계적 성질이 시간에 따라 변하는 경우가 많다는 점이 널리 지적되어 왔고, 이것을 비정상성이라고 부릅니다. 문제는 많은 학습 알고리즘이 "데이터의 성질이 일정하다"는 가정 위에 세워져 있다는 점입니다. 가정과 현실이 어긋나면, 모델은 자기가 배운 세계가 아직 유효하다고 믿은 채 틀린 답을 자신 있게 내놓습니다.

② 신호는 작고 잡음은 크다

이미지 인식에서 정확도 95퍼센트는 훌륭한 성과입니다. 그런데 가격 방향 예측에서는 애초에 그런 수준의 신호가 존재한다고 가정하기 어렵습니다. 가격 움직임의 대부분은 예측 불가능한 요소로 채워져 있고, 남는 부분이 있더라도 매우 얇습니다. 그 얇은 부분을 찾아내더라도, 수수료와 슬리피지라는 고정 마찰을 넘지 못하면 실전에서는 남는 것이 없습니다. 여기서 흔한 착각이 하나 생깁니다. "적중률이 높으면 좋은 모델"이라는 생각입니다. 적중률이 높아도 맞을 때 조금 벌고 틀릴 때 크게 잃으면 결과는 반대가 됩니다.

③ 무엇을 정답으로 삼을지부터 애매하다

학습에는 정답표가 필요합니다. 고양이 사진에는 '고양이'라는 정답이 붙어 있죠. 그런데 트레이딩에서 정답은 무엇일까요? 내일 종가가 오늘보다 높으면 1일까요? 그럼 3퍼센트 올랐다가 5퍼센트 떨어진 날은요? 5일 뒤 기준으로 하면 답이 달라지고, 손절선을 먼저 건드렸는지 여부까지 넣으면 또 달라집니다. 정답을 어떻게 정의하느냐에 따라 모델이 배우는 내용이 통째로 바뀝니다. 그래서 실무에서는 "이 모델의 정확도가 몇 퍼센트냐"보다 "정답을 어떻게 정의했느냐"가 훨씬 중요한 질문이 됩니다.

④ 과최적화 — 표본 내는 화려하고 표본 밖은 무너진다

학습 모델은 데이터에 맞추는 데 대단히 능숙합니다. 너무 능숙해서, 진짜 패턴과 우연한 잡음을 구분하지 못하고 둘 다 외워 버립니다. 이 현상이 과최적화이고, 표본 내 성과는 훌륭한데 표본 밖에서 유지되지 않는 사례가 실증 연구에서 반복적으로 보고되어 왔습니다. 규칙 기반 백테스트에서도 같은 함정이 있지만, 학습 모델은 조정할 수 있는 여지가 훨씬 많아 함정도 그만큼 깊습니다.

그래서 검증 절차가 규칙 기반보다 엄격해집니다. 시간 순서를 지켜 데이터를 나누고, 훈련 구간과 검증 구간 사이에 간격을 두어 정보가 새어 들어가지 않게 하는 기법들이 제안되어 왔습니다. 이런 절차가 없는 학습 결과는 백테스트 완전 가이드에서 다룬 미래 참조 문제를 훨씬 은밀한 형태로 안고 있을 수 있습니다.

⑤ 모델 감쇠 — 잘 만든 모델도 낡는다

표본 밖 검증까지 통과했다고 끝이 아닙니다. 시장은 계속 움직이고, 참여자 구성과 제도와 정보 유통 방식이 바뀝니다. 그래서 처음에는 잘 작동하던 모델의 성능이 시간이 지나며 떨어지는 현상이 널리 지적되며, 이를 모델 감쇠 또는 개념 표류라고 부릅니다. 한 걸음 더 나아간 관점도 있습니다. 어떤 우위가 발견되어 널리 이용되면 그 우위 자체가 소진되는 성질이 있다는 것입니다. 즉 모델이 낡는 것이 예외가 아니라 기본값이라는 전제 위에서 운영 설계를 해야 합니다.

6. "AI가 뉴스를 읽고 매매한다"는 말의 실제 범위

요즘 가장 자주 보이는 문구입니다. 대형 언어 모델이 널리 알려지면서 "AI가 뉴스와 공시를 읽고 판단한다"는 설명이 부쩍 늘었습니다. 이 문장에서 사실인 부분과 과장되기 쉬운 부분을 나눠 보겠습니다.

사실인 부분은, 텍스트의 어조나 내용을 점수로 바꾸는 기술이 실제로 존재하고 상당히 잘 작동한다는 것입니다. 어떤 기사가 특정 기업에 대해 긍정적인 어조인지 부정적인 어조인지 분류하는 일은, 앞 장에서 말씀드린 '정답이 분명한 분류 작업'에 가까워서 머신러닝이 잘하는 영역입니다. 실시간으로 뉴스를 받아 키워드를 감지하고 알림을 보내는 구성도 오래전부터 실무에서 쓰였습니다. 국내 증권사 API로 실시간 뉴스를 받아 처리하는 실제 구성 예시는 LS증권 신 OpenAPI 실시간 뉴스 키워드 알림 봇에 정리해 두었습니다.

과장되기 쉬운 부분은 그다음 단계입니다. 어조 점수가 정확한 것과, 그 점수로 가격 움직임을 설명할 수 있는 것은 전혀 다른 문제입니다. 관련 연구들은 감성 신호가 통계적으로 유의하더라도 다음 날 가격 움직임에 대한 설명력은 제한적이라고 보고하는 경우가 많고, 신호의 예측력이 시간이 지나며 빠르게 약해진다는 결과도 있습니다. 여러 재료와 결합했을 때 의사결정에 도움이 된다는 보고가 있는 반면, 감성 단독으로는 한계가 뚜렷하다는 지적이 함께 따릅니다. 연구마다 대상 시장·기간·측정 방식이 달라 수치를 일반화하기 어려우므로, 특정 숫자를 근거로 삼기보다는 원문을 직접 확인하시길 권합니다.

오른쪽 항목들이 "불가능하다"는 뜻은 아닙니다. 만들 수는 있습니다. 다만 그렇게 만든 것이 기대한 결과를 낸다는 보장이 없고, 그 보장 없음이 계약서에 적히지 않는다는 것이 문제입니다. 제작을 맡기실 때 이 구분을 명세서에 반영하는 방법은 명세서 작성 완전 가이드에서 다뤘습니다.

7. 비개발자가 30분 안에 확인하는 질문 8개

모델 내부를 들여다볼 수는 없습니다. 하지만 대답의 구체성은 누구나 판별할 수 있습니다. 아래 여덟 문항을 그대로 물어보시면 됩니다. 성실하게 운영하는 쪽은 대부분 막힘없이 답하고, 이름만 빌려 쓴 쪽은 대답이 추상적으로 흐르거나 화제를 수익률 쪽으로 돌립니다.

8. 광고 문구 6개를 기술 언어로 번역하면

여기서는 사기 여부를 가리는 이야기가 아니라 문구의 기술적 의미를 따져 보겠습니다. 허위 광고의 수법 자체를 다룬 내용은 자동매매 사기·허위광고 피하는 법에 따로 있으니 함께 보시면 좋습니다.

9. 규칙 봇과 학습 봇의 5가지 차이 (요약표)

이 표에서 읽어야 할 것은 우열이 아니라 적합한 자리입니다. 규칙으로 충분히 표현되는 판단을 굳이 학습으로 옮기면, 얻는 것 없이 ②③④⑤의 비용만 늘어납니다. 반대로 조건이 도저히 문장으로 정리되지 않는 판단을 규칙으로 밀어붙이면, 조건이 스무 개씩 붙은 누더기 규칙이 되어 결국 아무도 관리하지 못하게 됩니다.

10. 비용과 유지보수의 구조가 어떻게 달라지나

금액은 요구 사양에 따라 크게 달라지므로 여기서 구체적인 숫자를 말씀드릴 수는 없습니다. 다만 비용이 발생하는 항목의 구성은 분명히 다르고, 이걸 미리 알면 견적을 훨씬 정확하게 읽을 수 있습니다. 일반적인 제작 비용의 구조는 제작 비용·견적 완전 가이드에 정리해 두었습니다.

마지막 줄이 특히 중요합니다. 학습 기반 봇에서는 "어떤 버전의 모델이 그때 무엇을 예측해서 그 주문이 나갔는가"를 남겨 두지 않으면, 나중에 원인을 추적할 방법이 사라집니다. 규칙 봇에서는 조건 문장을 다시 보면 되지만, 모델은 그럴 수가 없습니다. 기록 체계 전반은 자동매매 '기록' 완전 정리에서 다뤘고, 운영 단계의 유지보수 비용 현실은 유지보수·업데이트 비용의 현실에 있습니다.

11. 법·제도에서 흔한 오해 — 로보어드바이저와는 다른 트랙이다

"AI 자동매매도 심사를 받나요?"라는 질문을 종종 받습니다. 이 질문에는 두 가지가 섞여 있어 나눠 봐야 합니다.

국내에는 로보어드바이저 테스트베드라는 제도가 있습니다. 2016년부터 운영되어 온 절차로, 알고리즘 기반 자문·일임 서비스를 제공하려는 사업자가 알고리즘의 안정성과 시스템 보안 등을 확인받는 심사입니다. 통과 후에도 중대한 변경이 생기면 다시 심사를 받는 구조로 알려져 있습니다. 다만 이것은 남의 자산을 자문하거나 맡아 운용하는 사업에 관한 제도이며, 개인이 자기 계좌를 자동으로 매매하는 것과는 다른 트랙입니다. 개인이 자기 돈으로 자기 계좌에서 매매하는 데에 이 심사가 요구되는 것은 아닙니다.

선이 그어지는 지점은 "AI를 썼느냐"가 아니라 "남의 돈이 관여하느냐"입니다. 지인의 계좌를 대신 돌려 주거나, 봇을 유료로 판매하며 수익을 약속하거나, 신호를 배포하며 대가를 받는 순간부터는 성격이 달라집니다. 이 경계에 관한 상세한 정리는 자동매매와 투자일임·자문·리딩방의 법적 경계선에 있습니다.

12. 그래서 어떤 순서를 권하나

제작을 업으로 하는 입장에서 말씀드리면, "AI로 만들어 주세요"라는 요청을 그대로 받는 것이 고객에게 이롭지 않은 경우가 많습니다. 학습 기반이 더 어렵기 때문만이 아니라, 대부분의 경우 실제로 원하시는 것이 층 C가 아니기 때문입니다. 아래 사다리가 실패 비용이 가장 낮은 순서입니다.

1단계를 권하는 이유는 보수적이어서가 아니라 정보를 얻기 위해서입니다. 규칙 봇을 한 달만 돌려 보시면, 원래 궁금했던 것의 상당 부분이 저절로 해결됩니다. 내가 정한 조건이 실제로 얼마나 자주 발생하는지, 수수료를 넘길 만한 크기인지, 내가 그 등락을 견딜 수 있는지가 숫자로 나옵니다. 감으로 하던 판단을 규칙으로 옮기는 구체적인 방법은 감으로 하던 매매를 '규칙'으로 바꾸는 5단계에, 실전 투입 전 검증 순서는 검증 3단계에 정리해 두었습니다.

그리고 1단계에서 확인된 것들은 3단계로 올라가도 그대로 쓰입니다. 시세를 받는 코드, 주문을 내는 코드, 체결을 확인하는 코드, 기록을 남기는 코드 — 앞서 본 다섯 칸 중 네 칸이 재사용됩니다. 버려지는 작업이 아니라는 뜻입니다.

13. 흔한 실수 6가지

14. 상담에서 실제로 자주 나오는 세 장면

15. 자주 보이는 오해 5가지

16. 한 장 요약

자주 묻는 질문