AI 빅데이터/AI 동향17 [하드웨어] NVSwitch, 인피니밴드, PIM, PNM 초거대AI가 주목받고 100B 이상의 파라미터 사용이 특이한 일이 아니면서부터 딥러닝학습을 위한 하드웨어에도 많은 관심이 쏟아진다. 무엇보다 시스템 반도체업체인 NVidia의 인프라는 SUPERPOD이라는 이름으로 수십, 수백의 GPU를 묶는 형태로 발전하고 있다. 반면, 메모리 반도체 영역에서도 메모리에 연산기능을 추가하면서 초거대 AI에 대응하고 있다. 시스템 반도체 업체의 대응 시스템반도체 업체라고 해봐야 NVidia를 말하는 것일텐데, NVidia는 A100, H100으로 반도체 성능을 높이는 한편, 이들을 네트워크로 묶어 SUPERPOD의 형태로 제공하고 있다. SUPERPOD은 NVSwitch와 인피니밴드 연결로 구분될 수 있다. 위는 NVSwitch의 구조를 나타내고 있는데, CPU(AMD .. 2023. 1. 29. [하드웨어] AI를 위한 반도체 NPU 후려치기 최근 페이스북 포스팅에서 AI반도체의 방향에 관한 논쟁(?)을 접했다. 국가 단위로 투자한다면서 기껏(?) 인퍼런스 칩 만드는 업체들 불러다 놓았냐라는 얘기가 있었나보다. 초거대AI로 시장이 발전하고 있으니 대량학습이 가능한 훈련용 칩과 데이터 대역폭을 개선할 NoC(네트워크 반도체)에 역량을 집중해야 한다는... OpenAI나 구글과 싸우려면 그 방향이 맞겠지만, 개인적으로는 이제 그 쪽 승부는 이미 났고 추론을 얼마나 빨리 잘할 수 있느냐가 미국을 제외한 국가들에서 관심가져야 할 분야인 듯 싶다. 혹은 학습을 위해서도 새로운 칩 만드는데 투자하기 보다는 그 돈으로 구글이나 NVidia, 혹은 클라우드 업체의 인프라를 사용하는 것도 방법이다. 하지만, 인퍼런스 분야는 다르다. 지금이야 AI용처가 한정되.. 2023. 1. 29. [Google] Jeff Dean - 2022년 Google AI의 성과 요약 구글 리서치의 수석 과학자 Jeff Dean의 Google AI의 현재 상황 정리. 제대로 이해하려면 꼼꼼히 봐야겠지만, 언어, 이미지, 생성모델 관련해서 간단하게만 우선 메모. Language 단순히 정답을 내는 것이 아니라, 정답에 이르기까지의 추론적 사고를 할 수 있는 방법을 제시 2022년 4월에 Pathway에 기반한 5400억개의 파라미터를 지닌 PaLM(Pathway Language Model)을 출시 Chain of Thought Prompting: 모델이 논리적 사고를 따르고 보다 구조화되고 조직적이며 정확한 응답을 생성하도록 함 언어마다 롱테일 단어들이 있어서 모두 학습시키기 어려웠는데, 대규모 다국어 훈련 모델을 통해 새로운 언어를 학습 Prompt Design 기반으로 Tuning할.. 2023. 1. 24. [초거대 AI] Anthropic AI Claude Anthropic AI사가 ChatGPT와 유사한 대화 생성 모델 Claude를 공개했다. 창업자 Dario Amodei가 4년 이상 Open AI에서 근무하고, 구글에서부터 주로 AI윤리 관련된 업무를 해왔기 때문에, 방식은 ChatGPT와 유사하면서도 좀 더 윤리적인 답변을 내놓는다고 한다. ChatGPT vs Claude ChatGPT 구분 Claude Open AI - Sam Altman 개발사 - 대표 Anthropic AI - Dario Amodei (ex-Open AI) $1B (Microsoft) 투자 $70M (FTX, Alameta Research) 22. 11. 30 Release 22. 12. 17 (Closed Beta) GPT + 강화학습 학습 방법 GPT + 강화학습 175B .. 2023. 1. 12. Coatue의 AI2022: The Explosion 기술 투자 자문인 Coatue사가 작성한 Generative AI 관련 분석 기사를 요약 2022년은 그야말로 AI Moment. iPhone Moment에 비견되는 것으로 AI는 드디어 메인스트림이 되었다고 평가. 이에 대한 근거로 Generative AI에 의한 캄브리아기 대폭발 수준의 AI Application의 증가를 말함. AI Application 사례 Dream Studio : Stable Diffusion Model에 의한 이미지 생성 Stability.ai - Heavy Metal Rockers on Dinosaurs www.loom.com 이미지의 일부분을 표시하고, 그 안에 텍스트로 지정한 이미지를 삽입 Jasper로 텍스트 생성 텍스트의 일부만 작성하면 뒷 이야기를 작성 What’s.. 2023. 1. 9. 이전 1 2 3 다음
