A | 메모리 안에 연산기 넣어 데이터 이동 최소화‘라마3.1’ 모델 실증…토큰 생성속도 3배↑기존 제어장치 활용해 상용화 문턱도 낮춰 0.65㎜(밀리미터) 두께의 삼성전자 7세대 저전력 D램(LPDDR5X). 삼성전자삼성전자(005930)가 메모리 내부에서 연산 기능을 수행하는 프로세싱 인 메모리(PIM) 기술을 통해 인공지능(AI) 답변 생성 속도를 3배 이상 끌어올렸다. AI 반도체 성능 경쟁이 그래픽처리장치(GPU)의 연산 능력을 높이는 데서 나아가 데이터 이동 시간을 줄이는 방향으로 확대되고 있다는 분석이다.26일 업계에 따르면 삼성전자는 25일(현지 시간) 미국 스탠퍼드대에서 열린 ‘핫칩스 2026’에서 LPDDR5X 기반 프로세싱 인 메모리(PIM)의 실제 AI 추론 성능을 공개했다.PIM은 메모리 내부에 연산 기능을 탑재하는 기술이다. 데이터를 저장하는 역할에 머물던 메모리가 일부 계산까지 직접 처리해 프로세서의 부담을 줄이는 방식이다.기존 AI 반도체 구조에서는 메모리에 저장된 데이터를 GPU가 가져와 연산한 뒤 다시 메모리로 보내는 과정을 반복한다. 반면 PIM은 메모리 내부에서 필요한 연산 일부를 처리해 데이터 이동 거리를 줄인다. 이를 통해 처리 속도를 높이고 전력 소비도 낮출 수 있다.삼성전자는 저전력 더블 데이터 레이트 5X(LPDDR5X)-PIM에 16개 D램 뱅크마다 하나의 PIM 블록(연산회로 묶음)을 배치해 총 16개의 연산 블록을 탑재했다고 밝혔다. 뱅크는 데이터를 나눠 저장하는 D램 내부의 독립적인 저장 공간으로, 각 뱅크가 동시에 연산을 수행할 수 있도록 설계했다.이번 발표의 핵심은 실제 제작한 반도체에서 AI 모델 성능 향상을 검증했다는 점이다. 삼성전자는 자체 개발한 엣지 AI 가속기 시스템온칩(SoC)에 기존 LPDDR5X와 LPDDR5X-PIM을 각각 연결하고 메타의 거대언어모델(LLM) ‘라마 3.1 8빌리언(B)’을 구동했다. ‘생각하는 메모리’인 프로세싱 인 메모리(PIM) 구조 설명자료. 삼성전자그 결과 LPDDR5X-PIM의 토큰 생성 속도는 초당 81.3개로 기존 LPDDR5X(27개) 대비 3.01배 빠른 것으로 나타났다. 같은 작업에 걸리는 시간도 12.3초에서 5.4초로 줄었다.토큰은 AI가 답변을 생성할 때 사용하는 글자나 단어 단위의 데이터 조각이다. 동일한 AI 모델을 사용하더라도 메모리 구조를 개선하면 추론 속도를 크게 높일 수 있다는 의미다.삼성전자는 앞서 LPDDR5X-PIM 시제품과 기본 성능을 공개해왔다. 이번 발표는 실제 반도체 칩에 상용 AI 모델을 적용해 성능 개선을 확인하고, 내부 연산 구조까지 구체적으로 공개했다는 점에서 의미가 있다.상용화를 고려한 설계도 적용했다. 삼성전자는 주소정렬모드(AAM)를 활용해 LPDDR5X-PIM이 기존 D램 메모리 컨트롤러를 그대로 활용할 수 있도록 했다. 메모리 컨트롤러는 프로세서와 메모리 사이에서 데이터 입출력을 관리하는 장치다. PIM 적용을 위해 기존 시스템 구조를 전면 개편해야 하는 부담을 낮춘 것이다.삼성전자는 차세대 LPDDR6-PIM의 국제반도체표준협의기구(JEDEC) 첫 정식 규격도 최종화 단계에 가까워졌다고 밝혔다. 특정 업체만 사용하는 기술을 넘어 다양한 시스템 업체가 활용할 수 있는 표준 메모리 기술로 확대하겠다는 계획이다.업계 관계자는 “삼성전자가 세계적인 반도체 학회 핫칩스에서 선보인 LPDDR5X-PIM은 메모리가 위치한 곳에서 AI 연산 일부를 직접 처리하는 구조적 변화”라며 “AI 반도체 경쟁도 이제 GPU의 연산 속도를 높이는 것뿐 아니라 데이터를 얼마나 효율적으로 이동시키고 처리하느냐가 중요한 단계로 넘어가고 있다”고 말했다.。
有人干副业是为了增加收入，但你见过一份副业干了几十年却一分钱不赚的吗?在太行山深处，就有这样一位电力工人——他帮乡亲们跑腿捎货，一干就是36年，分文不取。 他叫邢海明，是国网灵寿县供电公司南营服务站的员工，也是“中国好人榜”上的平凡英雄。新一期由中央广播电视总台音频客户端云听打造的《人间温暖》系列节目之短视频《追光纪》，带我们一起走近这位“背篓电工”，倾听一段关于坚守与牵挂的暖心故事。
△助人为乐中国好人、国网灵寿县供电公司南营服务站员工邢海明
邢海明的家在河北省灵寿县木佛塔村，他是十里八村都熟悉的电工师傅，日常负责本村及下辖9个自然庄的用电安全、日常巡线、设备抢修等工作。村落位于太行深山，一条被当地人称为“七十二拐”的盘山道是通往外界的唯一纽带。村民们走路下山去一趟集镇，通常要一个半小时。
B | 
这里的年轻人长年在外打工，留守村中的多是一些腿脚不便的老人。日常采买、取药取物，这些看似平常的小事，对老人们来说，却成了实实在在的难处。邢海明把这些看在眼里，自1990年参加工作起，就主动把乡亲们的“难事”装进了自己的背篓——这一背，就是36年。山高路陡，挡不住他往返的脚步;村子寂寥，他就用一篓一篓的物资，托起整座山村的琐碎期盼。 乡亲们托付邢海明捎带的东西五花八门，轻的有油盐酱醋、卫生纸等生活杂货，重的甚至有修缮房屋的水泥、沙土等等。每天上午上班前，邢海明会把村里老人要卖的核桃、鸡蛋等山货捎到山下换成钱，再跑药店、进超市、取快递……背篓装得满满当当。下班后，他再载着物资上山，挨家挨户送进门。
C | “下单、采购、装篓、配送”，一整套流程行云流水。为了方便全村老人，邢海明的手机24小时不关机，他还帮老人们把自己的号码设成一键拨号——有呼必应，随叫随到。
日子久了，大家对他的信赖早已超出了邻里情分——甚至有人把社保卡密码告诉他，放心让他帮忙下山取钱。
D | 为了不辜负这份沉甸甸的信任，邢海明用的背篓都是自己亲手编的，“买的不结实，不用这个背篓背，会弄坏了。给乡亲们办事，必须得谨慎。”
36年来，邢海明在盘山路上累计行程近40万公里，先后骑坏两辆摩托车、两辆机动三轮车，他自编的背篓更是用坏了16个。而这条山路的艰险，邢海明比谁都清楚——“七十二拐”本就难行，万一遇上冬日大雪、夏季暴雨，路面泥泞湿滑，危险时刻相伴。最惊险的一次，他在弯道上连人带车摔了出去，肋骨折了一根，疼了20多天。但邢海明没有动摇过，“一想到村里的老人还在家等着，这点苦不算啥。能给他们做点事，心里觉得值。”
几十年无偿给乡亲们跑腿办事，家里人一开始也有怨言——“因为耽误了家里的活儿”。但随着时间长了，家人也慢慢理解了他的用心。邢海明说：“家里干不了的活，全凭我媳妇了。没有家人的支持，这个事儿我也不好往下干。”妻子从最初的不解到后来的默默支持——这份善意，从来不只是一个人的奔走。 今年57岁的邢海明，再有四年就要退休了。可他心里还盘算着，只要腿脚还利索，这背篓就不打算放下。他也盼着能有年轻人接过来，替他继续往山上跑——山里的老人们，总得有人惦记着。 36年，背坏16个背篓，行程近40万公里。电工邢海明的背篓里装的不仅有乡亲们的柴米油盐，也有一个人对一群人的惦记和牵挂。往返山间的小背篓里没有轰轰烈烈，只有岁月如常。
E | 邢师傅说，明天他还会在路上。
Current article:http://hkk8ej.shuacanrandenmizhuohaoeiliang.buzz/list_voyu/yzv0wi.html
Published on:18:00:13