TechToast

[세컨드브레인 개발기] 5. 끊기지 않는 유입.

1부의 끝에서, 2부는 자료가 끊기지 않고 흘러들게 만드는 이야기라고 적었다. 자동화 8개를 붙였고, 그중 몇 개는 이상한 방식으로 실패했다고도 적었다. 이제 그 여덟 개가 무엇이고, 왜 그 간격으로 도는지부터 본다. 1부에서 만든 것은, 정확히는 소화 기관이다. 문서를 읽어 위키로 합성하고, 임베딩으로 색인하고, 질문이 오면 거기서 답을 찾는. 그런데 그 어느 것도, 재료가 들어오지 않으면 시작되지 않는다. 합성할 소스가 없으면 합성할 게 없고, 색인할 파일이 없으면 색인할 게 없다. 이걸 만들고 며칠 만에, 일이 실제로 어디에 있는지가 보였다. 합성이 아니라, 끊기지 않는 유입이었다. 유입 경로는 네 갈래였다. 손으로 쓰는 노트, 회의에서 나는 소리, 포털에 오는 메일, 그리고 일정. 넷 다 손이 닿..

[세컨드브레인 개발기] 4. 위키가 영어로 쓰여 있었다 — 4,382개 중 482개

1부의 마지막 편이다. 앞 세 편에서 세컨드브레인을 LLM-Wiki 패턴으로 시작하고, 문서 2만 개를 만나 벡터 검색 계층을 얹고, 온갖 파일 포맷에서 텍스트를 꺼내는 이야기를 썼다. 이 편은, 그렇게 만든 위키를 열어봤을 때 생긴 일이다. 2주쯤 지나 브라우징 화면을 붙였고, 페이지를 넘겨보다가 이상한 걸 발견했다. 일부 페이지가 영어로 쓰여 있었다. 내 자료는 거의 전부 한국어인데, 합성된 페이지가 영어라니, 아무도 부탁하지 않은 번역이다. 왜 그랬는지부터 보자. 원인은 금방 찾았는데, 프롬프트를 열어보니 ingest 시 LLM 에 주는 시스템 프롬프트에 한국어로 작성 지시가 이미 있었다. 지금 규칙은 맞고, 영어 페이지는 초기 버전의 잔재다. 처음엔 프롬프트가 영어였고, 모델이 영어로 답했는데,..

[세컨드브레인 개발기] 3. 20k 문서를 실제로 읽어들이기 — 로더 지옥

앞 편에서 문서 2만 개를 만나 설계를 고친 이야기를 썼다. 벡터 검색 계층을 얹고, 청크로 쪼개서 임베딩하면 된다고 적었는데, 그 문장에는 앞 단계가 하나 빠져 있다. 파일에서 텍스트를 꺼내는 일. 이게 이 프로젝트에서 제일 지루하고, 제일 오래 걸리고, 블로그에서 아무도 안 쓰는 부분이다. RAG 튜토리얼은 대부분 PyPDFLoader 한 줄로 끝난다. 실제 자료는 그렇게 생기지 않았고, 공문 하나만 열어봐도 한글 파일이 나오고, 구형 오피스 파일이 나오고, 스캔 이미지가 나온다. 이 글이 그 삽질을 반복하지 않게 해주면 좋겠다. 처리해야 했던 포맷드라이브에서 당겨온 파일의 확장자를 세어보고 정리한 목록이다. pdf docx pptx xlsx csv txt mdhwp hwpx..

[세컨드브레인 개발기] 2. 20,000개 문서 앞에서 설계가 무너진 날

앞 편에서, 개인 연구용 세컨드브레인을 벡터 RAG 없이 시작한 이야기를 썼다. 소스가 들어올 때 LLM 이 한 번 읽고 링크 걸린 마크다운으로 다시 쓰는 방식(Karpathy 의 LLM-Wiki 패턴)이고, 근거 중 하나가 "개인 규모에서는 사전합성이 RAG 를 이긴다" 였다. 2026년 6월 2일에 그게 엔드투엔드로 돌아가는 걸 확인했다. 같은 날 설계가 깨졌다. 이 편은 그 이야기고, 시리즈에서 제일 중요한 편이라고 생각한다. 산수 한 줄로 끝났다구글드라이브에는 대학 두 곳에서 일하며 만든 자료가 예전부터 쌓여 있었다. 브레인에 넣을 대상으로 그 폴더를 지정하고, 규모를 세어봤다. 폴더 두 개를 합쳐 문서 20,500개에, 약 53 GiB 였다. 이하 이 글에서는 약 2만 개라고 부르자. 앞 편에..

AI 직원 11명 고용기.

2023년 7월, 중국 칭화대학 NLP 연구소가 챗GPT만으로 게임회사를 하나 세웠다. 쑨마오쑹 교수 지도 아래 만든 시연인데, 회사 이름은 ChatDev, 게임타이쿤에나 나올 법한 구성을 그대로 갖췄다. CEO부터 CTO, CPO, CRO, 프로그래머, 디자이너까지, 회사의 모든 직원이 전부 ChatGPT 봇이다. 회사에 아이디어 하나만 던져주면 설계부터 프로그래밍, 테스트, 문서화까지 전 과정을 AI가 알아서 완성하고, 사람이 개입하는 유일한 지점은 초기 아이디어 제공뿐이라는 게 이 시연의 핵심이었다. 게임 하나를 만드는 데 평균 409.84초, 약 7분이 걸렸고, 가장 빠를 때는 3분도 안 걸렸다. 게임당 평균 48.5K 토큰, 비용은 평균 0.2967달러. 30센트도 안 되는 돈으로 게임 한 편이..

Adsense 가입을 시작한 것은 꽤 오래 전 이야기이다. 다른 주제로 소소한 다른 블로그를 운영할 때, '이렇게 글만 쓰다가 굶어죽지' 하는 마음에 광고 수익을 좀 올려볼까 하고 등록해 봤었다. 처음에 광고가 게재되고, 가끔 클릭되어 소소한 금액이 쌓이는 즐거움에 운영을 즐거이 하고 있었는데, 어느 정도 금액이 쌓인 상태에서 PIN 코드를 발급받으라는 메세지와 함께 집으로 우편을 보낸다는 메일이 왔었다. 그래 뭐, 사람을 정확하게 확인하는 과정이 필요하겠지~ 하고 신청했고, ... 지금 세번 째 재 신청이다. 편지 발송을 신청한 지 벌써 3번째, 6달째... 도데체 올 생각을 안 하니 글 쓸 힘도 안 나는 와중에, 무언가 업데이트가 없나 하여 애드센스 홈페이지에 들어갔더니, 덜컥 어떤 링크를 발견했다...

예전에 도메인 관련 욕심이 참 많았다. 가지고 있던 도메인 갯수만 열댓개, 다 크게 의미 없는 이상한 도메인들이었지만, 1년 2만원 가량 내면 '저 주소는 내 것이다' 라는 자부심을 가질 수 있었기 때문에 오랫동안 가지고 있던 쓸데없는 취미생활 같은 것이었다. 홈페이지를 만지기 시작한 것은 국민학교 6학년 언저리부터. 그 당시에는 3~5MB 정도의 적은 용량으로 무료 호스팅을 하는 업체가 정말 많았고, 신비x, 네x앙, 라x코스 등 그 당시 대부분의 커뮤니티 사이트에서도 회원가입만 하면 무료로 메일 계정과 호스팅 계정을 나눠주었었다. 하이텔, 나우누리 등 PC통신을 이미 접하고 있었고, 그 당시의 '동아리', '게시판' 의 입구를 꾸미기 위해 ANSI 코드로 입장하는 화면을 꾸미던 나에게 소소한 홈페이지..

Medical Image processing 을 연구하는 과정에서, 파일 단위의 영상의 전체 주소를 복사해야 하는 경우가 상당히 많다. Windows 에서는, 폴더에서 그 폴더 주소를 복사하고, 파일명을 복사해서 붙여넣는 간단한 방법이 있었지만 MAC OSX 에서는 폴더 주소를 텍스트 형태로 보여주는 창이 없어, 매번 드래그 해서 터미널 창에 놓고, 그 주소를 다시 복사해서 가져오는 불편함이 있었다. 좀 편하게 할 수 있는 방법이 없을까 하다가, 기본으로 깔려 있는 Automator 앱을 이용해보기로 함. 바로 이 놈. 무작정 실행해 보자. 이런 놈이 실행된다. 내가 추가하고 싶은 건 서비스에 적합하므로, 여기서 서비스를 선택. 여러가지 중에서, 유틸리티 -> 클립보드로 복사 를 넓은 쪽으로 드래그 하면..

다시 블로깅을 본격적으로 시작해 볼까 하는 마음에서, 이전에 가지고만 있고 썩혀두던 도메인을 블로그에 연결하고 본격적으로 글을 작성하고 있다. 이전엔 네이버 블로그나, 티스토리의 전신인 텍스트큐브, 혹은 워드프레스 등을 이용하여 블로그를 운영하고는 했는데.. 요즘은 예전보다 제약도 많이 줄어들었고, 별도로 설치를 하지 않더라도 자유도가 꽤 많이 높아진 것 같아 훨씬 쾌적한 듯 하다. 도메인 연결도 클릭 몇 번으로 순식간에 해결되었으니 말이다. 그 와중에, 전체적인 디자인은 조금 천천히 고려하더라도 세부적인 것을 만져보고 싶은 마음에 설정에 들어갔더니, Favicon 을 삽입할 수 있는 것 까지 있어 조금 놀랐다. Favicon 이란, 해당 홈페이지에 들어왔을 때, 혹은 웹사이트에 대한 즐겨찾기, 바로가기..

올해 8월 대학원을 졸업하고, 감사하게도 바로 현재 고려대학교 구로병원에서 연구원으로 근무할 기회를 받아 새로운 보금 자리를 꾸리고 있다. 당분간은 정부과제 베이스로 살아가는 연구원의 삶이겠지만, 열심히 논문도 쓰고 과제도 진행하고 해서 연구교수 자리를 딸 수 있을 그날까지 열심히 공부하고 노력도 해야할 듯 하다.급여 면에서는 만족스러운 수준이 아니라서 조금 시무룩해 있는 와중에, 마침 연구소에서 교수님이 IRB 위원으로 추가적인 업무를 보면 어떻냐고 제안을 주셔서, 냉콤 '감사합니다' 하고 올해 하반기 9월부터 IRB 심사위원으로 근무를 하게 되었다. 그런데, IRB 심사위원으로 근무하기 위해서는 IRB 위원 신규 교육을 받아야 하고, 나는 의사가 아니기 때문에 비의학위원의 카테고리 범주에 속하여, 총..