최근 Reddit에서 어떤 중국인이 윈도우즈 상에서에 dll 파일 2개로 완벽하게 AMD GPU를 CUDA에서 실행했다는 포스팅을 보고 이것 저것 알아 보다가 Grok과의 질의 응답을 통해 이 글을 쓰게 되었습니다. 저의 주관과 Grok의 대답이 섞여 있습니다. PTX: 엔비디아의 최대 강점이자 치명적 약점 엔비디아는 2008년 자체 하드웨어 호환성 악몽을 해결하기 위해 PTX를 발명했다. 매 세대 GPU마다 호화성이 깨지는 아키텍처별 SASS 바이너리를 배포하는 대신, CUDA 툴체인은 안정적이고 잘 문서화된 가상 ISA인 PTX를 내보낸다. 드라이버가 런타임에 PTX → 해당 GPU에 맞는 SASS로 JIT 컴파일을 한다. 이 결정 하나로 엔비디아는 17년 동안 자사 생태계 안에서 완벽한 forward, backward 호환성을 유지해 왔다. 그 결정은 동시에 완벽한 외부 공격에 대한 취약성을 만들게 되었다. PTX는 공개되어 있고, 아키텍처 독립적이며, 모든 CUDA 코...

안녕하세요. Pytorch를 통한 학습을 위해서 신규 그래픽카드로 Blackwell 6000 Pro를 사무실에 도입하였습니다. 그런데 3080ti보다 못한 연산속도가 나오고 있네요. 집 컴퓨터에는 5070ti가 있어서 이 녀석으로도 학습을 시켜보니 여전히 3080ti보다 느립니다. float32, float64에서 동일한 현상이 나타나구요. Cuda 12.8부터 sm_120 지원한다고 해서 Cuda 12.8에다가 torch와 torchaudio는 2.9.0, torchvision은 0.24.0 을 설치해서 pytorch에서 그래픽카드도 잘 인식하고 연산 때 그래픽카드 활용하는 것도 잘 확인이 되는 상황이구요. 도대체 왜 이러는 걸까요?

○ 응모 주제 제조업 도메인 특화 LLM·RAG 기반 AI Agent 개발 ​ ○ 공모전 사이트 링크 ​ ○ 응모자격 생성형 LLM 기반 해커톤에 관심 있는 청년/대학생 및 예비 창업자 ​ ○ 공모전 마감일 2025.12.08(월) 10:00 ​ ○ 시상 내역 총 상금 125만 원 ​ ○ 심사기준 및 방법 대회 홈페이지 내 규칙 탭 (https://dacon.io/competitions/official/236652/overview/rules) 참고 ​ ○ 유의사항 / 문의사항 대회 홈페이지 내 규칙 탭 (https://dacon.io/competitions/official/236652/overview/rules) 참고하여 대회 홈페이지 내 토론 탭 (https://dacon.io/competitions/official/236652/talkboard)에 문의

AI의 등장, 대체될 것인가 활용할 것인가? 망설이면 대체되고, 배우면 주도합니다. 도구를 사용하는 사람은, 더 좋은 도구의 등장을 반가워합니다. 이제는 LLM이 대체할 수 있는 능력이 아닌, LLM을 활용할 수 있는 능력을 배워야 할 시간입니다. 신청하기(클릭) ✒ 강사 소개 ✒ 유태영 강사 삼성 청년 소프트웨어 아카데미(SSAFY) 1~7기 전임교수 새싹(SeSAC) 서초캠퍼스 1기 AI 기반 데이터 분석가 양성과정 강사 동아일보 KDT 생성형 AI를 활용한 콘텐츠 크리에이터 양성과정 강사 데이터분석서비스 개발자 취업캠프 강사 멋쟁이사자처럼 5~6기 전체 대학생 온라인 강의 담당 강사 4차 산업혁명 선도인재 양성과정 강사 ✨ 이 강의를 통해서 ✨ 기초부터 다지는 탄탄한 프로그래밍 능력을 갖출 수 있어요. 다양한 서비스들을 연결해서 파편화되어 있는 업무들을 한 번에 자동화하는 경험을 해볼 수 있어요...

데이터사이언스 전공하고 있는 대학생입니다. 머신러닝 공부하는 과정에서 파이토치 라이브러리를 알게 되었고 토치에 대해서 더 자세히 공부하고 싶어서 회원가입했습니다 반갑습니다

안녕하세요 8년차 백엔드 개발하다가 어쩌다가 흘러들어와서 mlops 하게 되었습니다… ai/ml쪽에 전혀 지식이 없는 상태로 ml 다루게 되었는데 저희 엔지니어들이 pytorch 많이 쓰더라구요 많은 고견 듣고 도움 받고자 왔습니다. 잘 부탁드립니다.

안녕하세요, 현재 전력 계통 공부하고 있는 석사과정 대학원생입니다. 딥러닝 잘 사용하고 싶어서 가입하게 됐습니다. 잘 부탁드립니다!

안녕하세요 올해 처음 한국에서도 AI 개발자 Meetup을 할 예정입니다. Half-day event 로 오후에 짧게 할 예정이라 시간 되시면 오셔서 관련 분야 얘기도 나누고 저녁에는 networking 하는 시간도 준비하였습니다. 개발자들과 casual 한 분위기에서 진행될 예정이라, 편하게 오셔서 session 듣고 관련 업계 분들과 소통하시면 좋을것 같습니다. 참가비는 무료이니 미리 AMD AI Developer Meetup Korea with Moreh · Luma 에서 sign up 하시고 오시면 될것 같습니다. 이번 개발자 meetup 에서는 AMD 에 Instinct GPU 로 최근 sota model inference 최적화 내용 공유 드리고 guest speaker 로는 SGLANG QWEN ALIBABA CLOUD MOREH MOTIF 에서 최근 개발 방향 공유를 드릴 에정입니다. MODELSCOPE 팀에서 workshop 도 준비한 것이 있어서 ...

파이토치 한국 사용자 모임에서 11월 22일(토)에 여섯 번째 테크 세미나를 진행합니다. 이번 세미나는 PyTorch 생태계의 최신 소식부터 LLM/VLM 연구, 산업 생성 모델, MCP 기반 시스템 설계까지 다양한 경험과 인사이트를 나누는 자리입니다. 오랜만에 열리는 오프라인 세션이라 더욱 반갑게 인사드릴 수 있을 것 같습니다. 많은 분들이 편하게 찾아와 주시면 좋겠습니다. 참가 신청 링크: 링크 올해 마지막 커뮤니티 행사이니 편하게 오셔서 좋은 이야기 많이 나누면 좋겠습니다. 곧 뵙겠습니다! 🤗

○ 응모 주제 유전체 언어모델(gLM)의 변이 민감도 개선 및 성능 평가 ​ ○ 공모전 사이트 링크 ​ ○ 응모자격 국내 소재 대학(원) 재학생 또는 수료등록생 ※ 휴학생, 졸업유예생, 수료생 참가 가능 ​ ○ 공모전 마감일 2025.12.08(월) 10:00 ​ ○ 시상 내역 총 상금 1,000만 원 ​ ○ 심사기준 및 방법 대회 홈페이지 내 규칙 탭 (https://dacon.io/competitions/official/236630/overview/rules[​](https://dacon.io/competitions/official/236630/overview/rules)) 참고 ​ ○ 유의사항 / 문의사항 대회 홈페이지 내 규칙 탭 (https://dacon.io/competitions/official/236630/overview/rules[​](https://dacon.io/competitions/official/236630/over...

혹시 한국어 RAG방식 적용에 reranking이나 유사도 서치에서 최근 가장 성능 좋거나 많이 쓰이는 임베딩 모델이 어떤게 있을까요?

○ 신청 기간 25년 11월 20일 목요일 오후 5시까지 ○ 추천 수강대상 머신러닝의 기본을 다지고 싶은 분 데이터사이언스 분야로 커리어를 전환하고자 하는 분 자동화 라이브러리로 머신러닝 성능을 높여보고 싶은 분 ○ 참가 비용 데이스쿨 구독자 : 무료 비구독자 : 2만원 ○ 강의 일시 11/20(목) 오후 7시~8시 30분 온라인 Live 강의 총 1시간 30분 ○ 지원 방법 https://dacon.io/payment/rankerLecture/pay?date=2025년11월20일 ○ 공식 홈페이지 및 SNS https://dacon.io/forum/415556 https://www.instagram.com/p/DQ3cAl_k482/ ○ 문의처 [email protected]

'에이전트를 직접 만들어봐야 하는 이유' 글 소개 LLM 에이전트는 단순히 개념으로 이해하기보다 직접 구현해봐야 작동 원리를 체감할 수 있는 기술 구조 불과 수십 줄의 Python 코드로 OpenAI Responses API를 이용해 대화형 에이전트를 만들 수 있으며, 여기에 도구 호출(tool call) 기능을 추가하면 자율적 행동이 가능 에이전트의 핵심은 상태 없는 LLM과의 반복 호출 루프이며, 대화 맥락(context)을 직접 관리함으로써 다중 회차 대화를 구현 Context Engineering은 실제 프로그래밍 과제 수준의 문제로, 토큰 한계 내에서 입력·출력·도구 설명을 최적화하는 설계 필요 현재 에이전트 설계는 열린 소프트웨어 공학 문제 공간으로, 개인 개발자도 실험을 통해 새로운 접근을 시도할 수 있는 영역 에이전트 작성의 단순함 LLM 에이전트는 복잡한 설정 없이 OpenAI Responses API 하나로 구현 가능 예시 코드에서는 context 리...

[GOOGLE 번역] Meta와 PyTorch를 떠나며 PyTorch에서 물러나고 11월 17일에 Meta를 떠납니다. 요약: PyTorch를 영원히 하고 싶지는 않았습니다. 오랜 휴가를 마치고 돌아온 직후, 프로젝트가 저를 중심으로 자연스럽게 자리 잡으면서 전환하기에 완벽한 시기라고 생각했습니다. Meta에서 11년을 보냈습니다. 거의 제 전문 분야 생활의 전부였습니다. 평생 많은 친구를 사귀었습니다. PyTorch를 거의 8년간 이끌며 아무것도 없던 상태에서 AI 도입률을 90% 이상으로 끌어올렸습니다. 이 자리를 떠나는 것은 제가 해본 일 중 가장 힘든 일 중 하나였습니다. 하지만 진심으로 떠납니다. PyTorch는 현재 엑사스케일 학습을 처리합니다. 지능을 재정의하는 기반 모델을 구동합니다. 거의 모든 주요 AI 회사에서 PyTorch를 사용하고 있으며, MIT부터 인도 시골 지역까지 다양한 곳에서 PyTorch를 가르치고 있습니다. 제가 꿈꾸던 도구들을 쉽게 사용할...

* **어떻게 파이토치 한국 사용자 모임 커뮤니티에 오게 되셨나요?** -우연히 검색요 * **자신과 관련된 사소한 정보 하나 알려주세요!** -파이토치 열공하고 싶은 학생입니다. * **어떻게 파이토치에 발을 담그게 되셨나요?** -검색요 * **파이토치로 어떤 것을 하고 싶으신가요? 관심 분야가 어떻게 되시나요?** -Ai 및 ML요 * **자신을 마음껏 홍보해주세요! (Blog, GitHub, LinkedIn 등 SNS 링크)**

클라우드브로 커뮤니티에서 오픈소스 기여를 넘어, 실제 글로벌 상용화까지 이어질 오픈 프로젝트를 본격적으로 발굴합니다. 이번 시즌(’25.11~’26.2(예정))은 단순한 기술 실험이 아니라 개인과 팀의 역량이 생태계 자산으로 전환되는 여정입니다. 지난 첫 시도였던 10월 오픈 프로젝트 팀의 피드백을 반영하여, 탄탄한 트랙 구성을 준비했습니다. 🔻(~11/22) 오픈 프로젝트 참가 신청(50명 한정) ▶ CloudBro 오픈 프로젝트 참가 신청서 (🤹‍♀️ 전용 Discord 채널 오픈) 🕵 이런 엔지니어/개발자를 찾습니다. ◾ 자신의 아이디어를 실제 전문가(팀원 & 기술 자문위원)에게 검증받고 싶은 분 ◾ 프로젝트를 함께할 팀원이 필요한 분 ◾ ...

○ 응모 주제 무역 품목 간 공행성 쌍 판별 및 후행 품목 무역량 예측 AI 모델 개발 ​ ○ 공모전 사이트 링크 https://dacon.io/competitions/official/236619/overview/description ​ ○ 응모자격 일반인, 학생 등 누구나 대회 참가 가능 ​ ○ 공모전 마감일 2025.11.28(금) 10:00 ​ ○ 시상 내역 총 상금 700만 원 ​ ○ 심사기준 및 방법 대회 홈페이지 내 규칙 탭 (https://dacon.io/competitions/official/236619/overview/rules) 참고 ​ ○ 유의사항 / 문의사항 대회 홈페이지 내 규칙 탭 (https://dacon.io/competitions/official/236619/overview/rules) 참고하여 대회 홈페이지 내 토론 탭 (https://dacon.io/competitions/official/236619/talkb...

안녕하세요 llm 공부중인 학생입니다. 다름아니라 제가 토크나이저의 vocab 토큰화형태와 개수가 궁금해 열어보니 제가 확인한 오픈소스 한국어 모델중에는 거의 a.x가 유일하게 한국어 토크나이저를 사용중인것으로 보이는데 혹시 다른 대기업에서 토크나이저를 새롭게 만들어 한국어 특화 보캡을 따로 설정하지 않는것은 비용적인 측면이 너무 많이 들어가서인가요?

Q. 새싹 해커톤이 무엇인가요? A. IT 기술 분야에 관심있는 기획자, 디자이너, 개발자 청년들이 모여 서울의 미래를 바꿀 아이디어를 기획하고 서비스로 구현하는 해커톤입니다. 서울시 SW교육 브랜드 청년취업사관학교(SeSAC)가 기획하고 운영합니다. Q. 대회 주제가 무엇인가요? A. AI와 함께 만드는 새로운 변화입니다. 따라서 AI 기술을 활용하여 변화를 만들어내는 아이디어를 제시하고 구현 가능한 서비스로까지 개발해주세요. Q. 누가 참가할 수 있나요? A. 만 15세 이상 39세 이하의 청년이라면 누구나 지원 가능합니다. 단, 2인 이상(최대 5인 권장)팀을 구성해야 하므로 개인으로 신청할 시 팀 빌딩을 진행해주시길 바랍니다. Q. 대회 페이지가 있나요? A. 다음 링크로 들어오세요! ○ 대회 안내 및 참가신청 11월 14일 (금)까지 ○ 주제 AI와 함께 만드는 새로운 변화(Redesign everything with ai) ○ 시상 및 수상자 ...

[AIF 세미나-모두를 위한 Full stack 오픈소스 언어모델 KORMo 개발일지] ○ 참가접수 세미나 안내 및 참가신청서: https://aifactory.space/task/9234/overview 홈페이지 회원 가입 후, 상단에 ‘참여하기' 버튼 클릭하시고 참여정보를 입력하신 뒤 ‘제출'을 완료하시면 참가신청이 접수됩니다 ○ 강연 연사 임경태 KAIST 문화기술대학원 교수 - KORMo, Bllossom 언어모델개발 - MLP 연구실 운영 (sites.google.com/view/aailab) ○ 세미나주제 비영어권 언어 최초의 Fully-open source 언어모델인 KORMo의 개발일지를 소개합니다. - 비영어권 언어 최초의 Fully-open source 언어모델 KORMo - 최신 한-영 추론 언어모델 구축을 위해 모든 걸 공개 - 10B급 Foundation 모델 구축에 4억?? ○ 주최 -(주)인공지능팩토리 ○ 주관 (주)...

스타트업 성공의 새로운 패러다임으로, 소규모 팀이 거대한 가치를 창출하는 방식이 주목받고 있음 속도, 명확성, 주인의식이 소규모 팀에 중요하고, 계층과 조정 비용이 제거되면 의사결정이 직접적이고 신속하게 이루어져 제품 출시 속도가 극대화됨 조직 설계는 안티프래질 구조와 자율적 팟(pod) 운영이 핵심이며, 도구가 아니라 시스템 설계가 진정한 레버리지를 제공 채용은 최후 수단으로, 결과 중심 T자형 인재에 집중하고 네트워크드 코어와 외부 자원을 통해 유연하게 스케일함 조급한 확장과 조기 채용의 숨은 비용을 경계하고, 소수 인원으로 명료성을 스케일하는 창업자상을 새로운 표준으로 제시 1. "더 많은 인력, 더 많은 진전"이라는 미신 Instagram은 직원 13명으로 10억 달러에 인수되었고, WhatsApp은 55명으로 190억 달러, YouTube는 65명으로 16.5억 달러에 인수됨 이들은 예외가 아니라 소규모 집중 팀이 불균형적으로 높은 가치의 기업을 구축하는 반복적인 ...

안녕하세요. 서울대학교 학생 박성호/임도현 입니다. FastApps라는 OpenAI Apps SDK와 FastMCP 기반 프레임워크를 만들었습니다. ChatGPT 앱을 보일러플레이트 없이, 즉시 설정할 수 있는 유일한 Python 프레임워크입니다. ChatGPT 앱 빌딩을 단 한 줄로 시작할 수 있습니다. fastapps init my-app 이 한 줄이면 Python + React로 구성된 풀스택 앱이 바로 실행 가능한 상태로 만들어집니다. OpenAI 공식 Apps SDK는 단 하나의 위젯을 실행하기 위해서도 10개 이상의 파일, 수백 줄의 설정 코드, 수동 스키마 연결, 그리고 빌드 설정까지 모두 직접 다뤄야 합니다. FastApps를 활용하면, 단 2개의 파일과 약 30줄의 코드로 풀스택 ChatGPT 앱을 만들 수 있습니다. [FastApps의 가치] Instant setup – 명령어 하나로 프로젝트 설정 끝. 번거로운 초기 세팅이 없습니다. Z...

파이토치 한국 사용자 모임에서 진행한 AMD Instinct™ MI300X GPU 무료 체험 이벤트를 통해 AMD GPU를 사용할 수 있는 좋은 기회를 얻게 되었습니다. 이를 기반으로 LLM RL Finetune(Multi-Task Agent)를 돌려보았습니다. <TL;DR> 진짜 크고 빠른 압도적인 VRAM (192G): 100GiB+ 정도 되는 체크포인트 처리속도 정말 빠름 오픈소스 라이브러리들이 최근 AMD ROCm지원을 많이 해주고 있기에 개발에 용이 제공해주신 한정적 시간으로 인해 아쉬움 😂 LLM RL Finetune(DPO) - Multi-Task Agent huggingface 라이브러리로 Describe, Explain, Plan and Select: Interactive Planning with Large Language Models Enables Open-World Multi-Task Agents을 해보았습니다. Open World Agent...