퀀트 트레이딩 회사는 실제로 뭘 하나

"퀀트 트레이딩 회사"를 검색하는 사람의 머릿속에는 대개 서로 다른 세 개의 궁금증이 섞여 있습니다. 거기 취업하면 무슨 일을 하는지, 그런 회사가 하는 걸 개인도 할 수 있는지, 아니면 아예 그런 데 돈을 맡기면 되는지. 이 세 질문의 답은 전부 다른데, 검색 결과는 대개 연봉 이야기나 채용 공고로만 채워집니다. 이 글은 퀀트 회사가 실제로 하는 일을 다섯 개의 기능으로 분해하고, 개인과 벌어지는 격차 여섯 가지, 반대로 규모가 작아서 오히려 가능한 다섯 가지, 그리고 흉내 내면 손해인 것과 그대로 가져와야 할 것을 갈라 정리합니다. 코딩 지식은 필요 없습니다.

1. "퀀트 회사"를 검색하는 세 부류

같은 검색어를 넣어도 원하는 답은 완전히 다릅니다. 어느 쪽인지부터 정하면 이 글에서 읽어야 할 곳도 달라집니다.

세 번째 부류에게 먼저 결론을 말씀드리면, "퀀트 회사에 맡긴다"와 "내 계좌를 자동화한다"는 서로 다른 법적 트랙입니다. 이 구분을 모르고 접근하다가 문제가 생기는 경우가 실제로 많아서 9장에 따로 정리했습니다. 그전에 회사가 하는 일부터 보겠습니다. 그래야 개인이 무엇을 가져올 수 있고 무엇을 포기해야 하는지가 선명해집니다.

참고로 이 글은 '퀀트'라는 말 자체의 정의를 다루지는 않습니다. 자동매매·시스템 트레이딩·알고리즘 트레이딩·퀀트라는 네 단어가 어떻게 다르고 어디서 겹치는지는 헷갈리는 트레이딩 용어 4가지 완전 정리에 따로 정리해 두었습니다. 이 글은 그 정의를 이미 알고 있다는 전제에서 "그래서 그 일을 하는 조직은 어떻게 생겼나"로 한 걸음 더 들어갑니다.

2. 퀀트 회사를 기능으로 쪼개면 다섯 칸이다

회사마다 부서 이름은 제각각이지만, 하는 일을 기능 단위로 뜯어보면 놀랄 만큼 비슷한 다섯 칸이 나옵니다. 그리고 이 다섯 칸은 개인이 자동매매를 할 때도 똑같이 필요합니다. 차이는 칸의 개수가 아니라 칸마다 몇 명이 붙느냐입니다.

① 데이터 — 가장 지루하고 가장 중요한 칸

회사에서 데이터를 다루는 일은 "가격을 받아온다"로 끝나지 않습니다. 같은 종목의 과거 가격이 액면분할·배당·유상증자를 거치며 달라지는 문제를 어떻게 보정할지, 상장폐지된 종목을 종목군에서 빼버리면 과거 성과가 왜 부풀려지는지, 시간대가 다른 시장의 데이터를 어느 기준으로 정렬할지가 전부 이 칸의 일입니다. 그리고 무엇보다 1년 뒤에 같은 코드를 돌려도 같은 숫자가 나오게 만드는 일이 여기 포함됩니다.

개인이 가장 많이 건너뛰는 칸이 바로 이 칸입니다. 무료 데이터를 받아 바로 백테스트에 넣고, 결과가 좋으면 전략이 좋다고 결론 내립니다. 그런데 데이터 쪽 문제는 결과를 나쁘게 만드는 게 아니라 좋게 만드는 방향으로 작동한다는 점이 함정입니다. 살아남은 종목만 보면 성과가 좋아 보이고, 분할 보정이 안 된 가격은 이유 없는 급등락을 만들어 돌파 전략을 좋아 보이게 만듭니다. 이 주제만 따로 다룬 글이 있으니 백테스트 완전 가이드 — 데이터 수집부터 워크포워드까지를 함께 보시면 좋습니다.

② 리서치 — 가설을 세우고, 대부분 버리는 칸

리서치의 결과물은 "찾아낸 전략"이 아니라 "기각한 가설의 목록"인 경우가 훨씬 많습니다. 이 점이 개인의 감각과 가장 크게 어긋나는 부분입니다. 개인은 백테스트를 돌려 좋은 결과가 나오면 성공이라 느끼지만, 조직화된 리서치는 반대로 "이게 우연이 아니라는 걸 어떻게 보이나"에 대부분의 시간을 씁니다.

같은 데이터를 수백 번 다르게 잘라 보면 그중 하나는 반드시 화려한 성과를 보입니다. 그 화려함이 실력인지 우연인지 가르는 절차가 리서치의 본체입니다. 표본 밖 기간을 미리 떼어두는 것, 파라미터를 조금 흔들어도 결과가 유지되는지 보는 것, 시도 횟수 자체를 기록해 두는 것이 그런 절차입니다. 이 착시의 구조는 백테스트가 화려할수록 의심해야 하는 이유 — 데이터 스누핑·다중검정에 자세히 정리해 두었습니다.

③ 구현 — 종이 위 규칙을 돌아가는 프로그램으로

리서치가 "이 규칙이 통계적으로 버틴다"고 결론 내려도, 그것은 아직 노트북에서 돌아가는 계산일 뿐입니다. 실제로 매매를 하려면 시세를 실시간으로 받고, 증권사·거래소에 인증하고, 주문을 보내고, 체결을 확인하고, 실패하면 재시도하고, 잔고와 대조하고, 기록을 남기고, 이상하면 멈춰야 합니다. 회사에서는 이 일을 퀀트 개발자가 맡습니다.

개인이 가장 과소평가하는 칸이기도 합니다. 백테스트가 잘 나온 코드와 실전에서 24시간 버티는 프로그램은 작업량이 몇 배 차이 납니다. 왜 그런지는 백테스팅 프로그램 5갈래 비교에서 '백테스트 도구와 실전 봇은 다른 프로그램'이라는 절로 다뤘습니다.

④ 집행 — 같은 신호, 다른 결과

같은 매수 신호를 받아도 어떻게 주문을 내보내느냐에 따라 실제 체결 가격은 달라집니다. 큰 주문을 한 번에 던지면 자기 주문이 호가를 밀어 불리한 가격에 체결됩니다. 그래서 회사는 큰 주문을 시간에 걸쳐 쪼개거나 거래량 비중에 맞춰 나눠 넣습니다. 이 영역이 집행 알고리즘(TWAP·VWAP)이고, 전략 알고리즘과는 목적 자체가 다릅니다.

개인 규모에서는 시장충격이 거의 문제되지 않으므로 이 칸이 훨씬 가볍습니다. 다만 가벼운 것과 없는 것은 다릅니다. 거래량이 얇은 종목이나 새벽 시간대 코인처럼 호가가 성긴 자리에서는 개인 규모의 주문도 밀립니다. 이 부분은 슬리피지·미체결·부분체결의 진짜 원리와 시장가·지정가 주문 유형 정리에서 다뤘습니다.

⑤ 리스크 — 전략과 분리되어 있다는 것이 핵심

회사 조직에서 리스크 관리가 갖는 가장 큰 특징은 성능이 아니라 위치입니다. 전략을 만든 사람과 한도를 정하는 사람이 다른 사람이고, 한도에 걸리면 전략 담당자의 동의 없이 포지션이 줄거나 멈춥니다. 이 분리가 조직 리스크 관리의 본질입니다.

개인은 이 분리를 만들 수 없습니다. 만든 사람도 나고, 멈출지 결정하는 사람도 나입니다. 그래서 개인에게 유일하게 남은 대안이 "과거의 내가 미래의 나를 구속하도록 규칙을 프로그램에 박아두는 것"입니다. 손실 한도에 닿으면 사람 손을 거치지 않고 봇이 스스로 멈추게 만드는 장치 이야기이고, 킬 스위치·서킷브레이커 완전 정리와 리스크 관리 완전 가이드에서 구체적인 형태를 다뤘습니다.

3. 그 다섯 칸을 누가 맡나 — 네 개의 직무

직무 이름과 경계는 회사마다 다르고, 규모가 작은 곳은 한 사람이 두세 역할을 겸합니다. 아래는 업계에서 흔히 통용되는 구분이며, 특정 회사의 조직도를 설명하는 것이 아닙니다. 실제 채용 요건과 업무 범위는 각 회사의 공식 채용 공고를 확인하셔야 합니다.

이 표를 개인 입장에서 다시 읽으면 이렇게 됩니다. 네 역할 중 리서처와 데이터 쪽은 남에게 맡기기 어렵고(내 전략에 대한 판단이라서), 개발자 역할은 맡기기 쉬우며(사양이 명확하면 대체 가능해서), 트레이더 역할은 개인 규모에서 상대적으로 부담이 작습니다. 비개발자가 자동매매를 시작할 때 어디를 직접 하고 어디를 위임할지 판단하는 기준이 여기서 나옵니다.

4. 회사의 하루와 개인의 하루가 갈리는 지점

조직에서 하루가 흘러가는 방식과 개인의 하루는 구조적으로 다릅니다. 차이를 만드는 것은 능력이 아니라 일이 배치된 순서입니다.

오른쪽 칸의 항목들은 능력 부족이 아니라 배치의 문제입니다. 시장이 열려 있는 시간에 전략을 수정하면, 그 수정은 거의 예외 없이 방금 본 손익에 반응한 것이 됩니다. 회사가 리서치를 장중에서 떼어내는 이유가 정확히 이것입니다. 개인도 이 분리를 흉내 낼 수 있습니다. 돈이 드는 일이 아니라 시간대를 나누는 일이기 때문입니다.

봇이 지고 있을 때 언제 끄고 언제 참을지의 기준을 미리 정해두는 문제이기도 합니다. 이 판단만 따로 다룬 글이 봇이 계속 지고 있을 때 — 언제 끄고, 언제 참고, 언제 고칠까입니다.

5. 개인과 벌어지는 격차 여섯 가지

여기서부터가 "따라 할 수 있나"에 대한 실질적인 답입니다. 격차는 크게 여섯 갈래이고, 각 격차가 어떤 전략에서 결정적이고 어떤 전략에서는 거의 무의미한지가 핵심입니다. 무조건 진다고 결론 내리는 것도, 격차가 없다고 우기는 것도 둘 다 틀립니다.

표의 마지막 두 열을 세로로 읽어 보시면 패턴이 보입니다. 시간 단위가 짧아질수록 격차가 결정적이고, 길어질수록 격차가 흐려집니다. 그래서 개인이 회사와 정면으로 부딪히지 않는 가장 간단한 방법은 종목 선정이 아니라 시간 단위를 옮기는 것입니다. 시간 단위 선택이 무엇을 바꾸는지는 타임프레임 완전 정리 — 스캘핑·데이트레이딩·스윙·포지션에서 별도로 다뤘습니다.

③번 자본 격차에 대해 하나 덧붙이면, 개인 쪽에서 흔히 오해가 생기는 부분이 있습니다. "돈이 적어서 불리하다"는 말은 수익률이 아니라 고정비 비율에 대한 이야기입니다. 서버 비용, 데이터 비용, 최소 수수료는 원금이 작든 크든 비슷하게 붙기 때문에 작은 원금에서 비율로 무거워집니다. 얼마부터 이 비용이 감당 가능해지는지는 최소 자본금·수수료·손익분기의 현실에서 숫자로 따져 두었습니다.

6. 반대로, 작아서 가능한 다섯 가지

격차만 보면 개인이 할 일이 없어 보이지만, 방향을 뒤집으면 규모가 크기 때문에 회사가 못 하는 일도 분명히 있습니다. 이 부분은 해외 퀀트 커뮤니티에서도 오래 논의되어 온 주제로, 대체로 아래 다섯 갈래로 정리됩니다.

① 캐파 제약이 없다

큰 자금은 거래량이 얇은 자리에 들어가는 순간 자기 주문이 그 기회를 지워버립니다. 1억을 굴리는 사람에게는 기회인 가격 차이가 1조를 굴리는 곳에는 존재하지 않는 것과 같습니다. 개인의 주문 크기가 시장에 거의 흔적을 남기지 않는다는 점은, 시장충격을 걱정해야 하는 쪽에서 보면 부러운 조건입니다.

② 보고 의무와 외부 압력이 없다

외부 자금을 받는 조직은 정기적으로 성과를 설명해야 합니다. 그래서 지금 당장은 설명하기 어렵지만 시간이 걸리는 전략을 견디기 어렵고, 성과가 나쁜 구간에서 자금이 빠져나가면 전략과 무관한 이유로 포지션을 줄여야 합니다. 개인에게는 이 압력이 없습니다. 자기 원금과 자기 인내심만 관리하면 됩니다. 물론 그 인내심이 가장 어려운 부분이기도 하고, 그래서 규칙을 프로그램에 박아두는 편이 낫습니다.

③ "안 해도 된다"는 선택지가 있다

이것이 가장 저평가된 이점입니다. 트레이딩을 업으로 하는 조직은 시장이 열리면 무언가를 해야 하지만, 개인은 조건이 맞지 않으면 아무것도 하지 않아도 됩니다. 아무 신호도 없는 달에 거래가 0건이어도 개인에게는 아무 일도 일어나지 않습니다. 봇에 "이 조건이 아니면 거래하지 않는다"는 거르기 규칙을 넉넉히 넣을 수 있다는 뜻이고, 이는 조직보다 훨씬 까다로운 필터를 쓸 수 있다는 뜻입니다.

④ 니치 시장에 들어갈 수 있다

규모가 작으면 거래대금이 작은 종목, 유동성이 얇은 시간대, 규제나 인프라 문제로 기관 자금이 접근하지 않는 시장에 들어갈 수 있습니다. 다만 이 이점에는 정직한 경고가 붙습니다. 유동성이 얇다는 것은 들어갈 때보다 나올 때 더 불리하다는 뜻이고, 백테스트에서는 그 불리함이 거의 드러나지 않습니다. 이 괴리가 왜 생기는지는 백테스트와 실거래가 벌어지는 7가지 이유에 정리해 두었습니다.

⑤ 전략을 바꾸는 속도가 빠르다

조직에서 새 전략을 실전에 올리려면 검토와 승인 절차를 거칩니다. 개인은 오늘 판단하고 오늘 반영할 수 있습니다. 그런데 이 이점은 양날의 검입니다. 빠르게 바꿀 수 있다는 것은 손실 직후에 충동적으로 바꿀 수 있다는 뜻이기도 합니다. 실제로 개인 자동매매에서 가장 흔한 실패 경로가 "잦은 수정으로 무엇이 효과였는지 영영 모르게 되는 것"입니다. 이 이점을 살리려면 변경 이력을 남기는 습관이 반드시 함께 가야 하고, 그 방법은 로그·매매일지·거래내역 완전 정리에서 다뤘습니다.

7. 흉내 내면 손해인 세 가지

① 밀리초 경쟁 — 초단타·마켓메이킹

주문이 시장에 닿는 시간이 승부를 가르는 영역에서는 회선·서버 위치·주문 처리 경로가 전략보다 우선합니다. 개인이 일반 인터넷과 클라우드 서버로 이 경쟁에 들어가면, 전략이 아무리 정교해도 구조적으로 뒤에 섭니다. 여기서 나오는 비용은 손실만이 아니라 왜 안 되는지 영원히 모르는 상태입니다. 백테스트에서는 잘 되는데 실전에서만 안 되고, 원인이 코드가 아니라 물리적 거리라서 고칠 수가 없습니다.

차익거래 계열이 특히 이 함정에 잘 걸립니다. 화면에 보이는 가격 차이는 실재하지만, 그 차이가 사라지는 데 걸리는 시간이 개인의 주문 왕복 시간보다 짧은 경우가 흔합니다. 이 구조는 차익거래 완전 가이드와 김치프리미엄 차익거래 자동화에서 실제 제약을 포함해 다뤘습니다.

② 수십·수백 팩터를 결합한 대형 모델

팩터를 많이 쌓을수록 좋아 보이는 것은 백테스트에서만 그렇습니다. 팩터 하나를 추가할 때마다 데이터 요구량과 검증 부담이 함께 늘어나고, 개인의 데이터 환경에서는 그 검증을 감당할 수 없습니다. 결과적으로 "수백 번 시도해서 제일 좋은 조합"을 고르게 되고, 그것은 전략이 아니라 과거 데이터에 맞춘 곡선입니다. 팩터 자체를 이해하는 것은 유용하니 퀀트의 심장 '팩터'란 무엇인가를 권하지만, 개수를 늘리는 방향은 개인 환경에서 거의 항상 역효과입니다.

③ 대체 데이터와 학습 모델의 무리한 적용

위성 이미지, 카드 결제 집계, 대량 텍스트 같은 대체 데이터는 구매 비용과 정제 인력이 전제된 자원입니다. 개인이 접근 가능한 형태로 가공된 대체 데이터는 이미 가격에 반영되었을 가능성이 높습니다. 머신러닝을 얹는 접근도 비슷한 이유로 개인 환경에서는 기대만큼 작동하지 않는 경우가 많고, 그 구조적 이유는 AI 자동매매, 뭐가 AI인가 — 규칙 봇과의 5가지 차이에서 별도로 정리했습니다.

8. 그대로 가져와야 할 회사의 습관 다섯

인프라는 못 가져오지만 절차는 전부 가져올 수 있습니다. 그리고 실제로 개인 자동매매의 결과를 가장 크게 바꾸는 것도 인프라가 아니라 이 절차 쪽입니다. 돈이 들지 않는다는 점에서 가성비가 가장 좋은 항목이기도 합니다.

다섯 가지 모두 공통점이 있습니다. 미래의 내가 아니라 지금의 내가 결정한다는 것입니다. 손실 중인 사람은 손실 중인 판단을 하고, 수익 중인 사람은 수익 중인 판단을 합니다. 조직은 그 문제를 사람을 나눠서 풀고, 개인은 시점을 나눠서 풀 수밖에 없습니다. 이 발상을 실행 절차로 옮긴 것이 실전 투입 전 검증 3단계이고, 감으로 하던 매매를 규칙 문장으로 옮기는 앞 단계는 감을 규칙으로 바꾸는 5단계에 있습니다.

9. "맡기면 되지 않나" — 완전히 다른 트랙

1장에서 언급한 세 번째 부류에 대한 답입니다. 결론부터 말씀드리면, "퀀트 회사에 돈을 맡긴다"와 "내 계좌를 내 규칙으로 자동화한다"는 이어져 있지 않은 두 개의 길입니다.

남의 자금을 받아 대신 운용하거나, 대가를 받고 투자 판단을 제공하는 행위는 우리나라에서 인가·등록이 필요한 영역입니다. 따라서 "맡긴다"는 선택지는 정식으로 인가받은 금융회사의 상품을 이용하는 것을 의미하며, 개인이 만든 프로그램을 지인에게 빌려주거나 대신 돌려주는 것과는 성격이 전혀 다릅니다. 이 경계는 생각보다 촘촘하고, 좋은 의도로 시작한 일이 문제가 되는 경우도 실제로 있습니다.

그래서 이 글을 읽고 계신 분이 개인 투자자라면, 현실적으로 남는 선택지는 셋입니다. 첫째 정식 금융상품을 이용하는 것, 둘째 직접 공부해 스스로 만드는 것, 셋째 내 규칙을 프로그램으로 옮기는 작업만 위임하는 것입니다. 세 번째는 판단은 내가 하고 구현만 맡기는 형태라 앞서 3장에서 본 "리서처 역할은 내가, 개발자 역할은 위임"과 정확히 같은 배치입니다.

10. 퀀트 대회·채용은 어떤 신호인가

자동완성에서 퀀트 트레이딩 대회, 시스템 트레이딩 채용 같은 검색어가 자주 붙어 다니는 이유가 있습니다. 이 업계는 학력이나 경력보다 "검증 가능한 결과물"로 사람을 걸러내는 경향이 있어서, 대회와 공개 과제가 실질적인 관문 역할을 하기 때문입니다.

개인이 참가할 수 있는 국제 퀀트 모의투자 대회들이 존재하고, 상위 참가자에게 교육 기회나 채용 연계를 제공하는 경우도 있습니다. 다만 참가 자격·일정·시상 내용·채용 연계 여부는 회차마다 바뀌므로 반드시 주최 측 공식 공고를 직접 확인하셔야 합니다. 이 글에서 특정 대회의 조건을 단정하지 않는 이유입니다.

실전 관점에서 대회가 주는 진짜 이득은 상금이 아니라 훈련 효과 쪽이라고 봅니다. 세 가지가 강제되기 때문입니다.

반대로 짚어둘 점도 있습니다. 대회 성적은 실계좌 성과를 예측하지 않습니다. 대회 환경은 대개 수수료·슬리피지·체결 실패가 단순화되어 있고, 자금 인출이나 심리적 압박도 없습니다. 백테스트 성과와 실거래 성과가 벌어지는 이유들이 대회 환경에서는 상당 부분 제거되어 있다는 뜻입니다. 대회는 리서치 훈련장이지 실전 예고편이 아닙니다.

11. 개인 퀀트 4단계 사다리 · 자가진단 8문항

여기까지 읽으신 분이 "그래서 나는 뭘 하면 되나"로 넘어갈 때 쓸 수 있는 순서입니다. 아래 사다리는 돈이 아니라 검증의 밀도로 단계를 나눈 것입니다. 각 단계에서 다음으로 넘어가는 조건이 붙어 있다는 점이 중요합니다.

3단계에서 백테스트 신호와 실시간 신호를 대조하는 작업이 특히 중요합니다. 두 신호가 어긋난다면 전략의 문제가 아니라 데이터나 구현의 문제이고, 이것을 소액 실거래에서 발견하면 원인 분리가 훨씬 어려워집니다. 24시간 돌리는 환경을 어떻게 구성하는지는 VPS 24시간 무중단 운영 완전 가이드에, 장애가 났을 때의 절차는 장애·복구 플레이북에 정리해 두었습니다.

여덟 문항 중 3·4·7번이 판별력이 가장 높습니다. 이 셋에 답할 수 있는 사람은 도구가 무엇이든 방향이 맞고, 답하지 못하는 사람은 도구를 아무리 좋은 것으로 바꿔도 같은 자리를 맴돕니다. 아직 시작 전이라면 자동매매 시작 전 자가진단 10문항을 먼저 보셔도 좋습니다.

12. 자주 하는 실수 6 · 시나리오 3 · 오해 5

자주 하는 실수 여섯

시나리오 셋 — 이런 경우 어떻게 판단하나

흔한 오해 다섯

13. 한 장 요약 · 자주 묻는 질문

자주 묻는 질문