看板 Gossiping作者 LuoShiWu ()標題 Re: [新聞] 中正資工新技術助電腦效能大躍進 獲「系統界奧斯卡」肯時間 Wed Jul 19 03:08:02 2023
先講一下為什麼會有這樣的想法
大概二十多年前晶片網路(network on chip)就很紅
意思是晶片上有很多運算核心(core),每個core就像一台小電腦
然後把他們連接起來的方式就叫做晶片網路
晶片網路的原理跟電腦網路差不多,但晶片網路會比較有規則性
比較像是電腦教室的電腦,整齊擺放、整齊拉線,不會像是宿舍裡面的電腦
又剛好知道 Linux kernel 的 spinlock 演算法是 MCS
MCS是把等待進入 critical section 的 task 以 linked list 連在一起,形成FIFO
又又剛好,研究所時是做scheduling的,看到linked list,直覺上就是可以scheduling
然後就是最短路徑排程了
跟別人的差別在於,我讀書讀得比較少 :-p
大概十幾年前有人推出一個叫做cohort的演算法,在多處理器上以grouping的方式排序
這個方法跟最短路徑的差別是:
「同一個group的是不分前後順序,也就是同一個group就不再做細緻的優化」
使用最短路徑,優化的細緻度好很多,但這方法也有些缺點,方法稍微複雜一些
我認為處理器的核心數目越多,那麼最短路徑方法才會贏過其他方法
運氣很好的是,AMD忽然爆發小宇宙(參考 聖鬥士星矢),多核心從4顆變成32以上
就從「早晚會有用的演算法,變成現在就有用」
cohort是一個很棒的方法,非常的成功,在多處理器架構下他的效能很好,
因為很成功,做這方面的人都會去看他這篇論文,cohort的grouping概念
就影響了這時期的spinlock方法,因為我不曉得有cohort因此沒有受到影響
再來是為什麼投了四年還要繼續投,難道第二、第三年不會想要放棄嗎?
我真的很想上OSDI,但reviewer不太相信我們,有一種「民雄地下道標語的感覺」
「不是路走到盡頭,而是該轉彎」
(參考:
https://hackmd.io/_uploads/HkQzvS4c3.jpg,來源:facebook網路)
但。。。老天爺就叫我一條路走到黑,投稿到次一級的會議
那個reviewer給我的感覺並不是相不相信的問題,而是有沒有認真看
要被後者reject,還不如被前者。為什麼執著於會議,因為我的領域就是會議比較重要
講到這裡好像都很吃運氣,補充一點不是運氣的部分
晶片網路不是我的研究領域,但念博士時還是有去看一下,這是因為計算機組織很迷人
google news也會推最新的硬體技術給我,因此這部分還有持續了解
第一次看到 MCS,是在「奔跑吧Linux kernel的作者『笨叔叔』」的wechat論壇
他下了個聳動標題「Linux kernel 黑科技 MCS」
大家可以去看MCS的文章,
https://zhuanlan.zhihu.com/p/89058726
我概略性的看過,無論是中文或者是英文都看不懂(我相信jserv一定秒懂)
看不懂去洗個澡,然後看懂這個方法也想到這個資料結構可以排程
排程是我的老本行,雖然很久不做scheduling,但直覺還是有的
這種有先後順序,而且還是FIFO的鐵定可以排程
能改善多少要看演算法多逼近最短路徑,演算法的cost多少則看要逼進到則樣的程度,
不能太追求最短路徑,否則光是演算的成本就會過高
感覺起來就是跟作業系統耍曖昧,若即若離。寫論文渣一點沒關係啦,能動就好
最後就是寫程式,我們本來就對C語言和計算機結構比較熟,
問題不是太大,三個星期完成骨幹,後面就是定量分析和實際跑跑應用程式
在過往的研究上,失敗的紀錄超多,雖然國科會的報告寫得好像是一回事
但是改善幅度太小,根本不值得發表,有時候對實驗室做出來的成果也沒啥信心
這部分也不適合發表,我真的很缺論文,但也很討厭讀到過度包裝的論文
視情況決定要不要寫,實驗室總是要運營
有四年的時間在績效方面,本廢宅完全是國科會的米蟲
感謝國科會願意讓米蟲每年都有經費可以拿,感謝委員願意相信計畫書
有一點成果以後,又希望國科會可以多給實驗室經費
只有使用AMD 32核心處理器,審查委員眉頭一皺,覺得這裡面肯定有貓膩(真的發生)
「Intel、ARM的伺服器太貴」,這不能是理由,這是研究者自己要想辦法的
「人在不順利時希望社會主義,
順利時希望希望功利主義」
~~陳厝寮170號,廢才哲學家,shiwu
我看到有人提到「壓榨硬體效能會不會增加耗電」這問題很棒,
lock-unlock,就像是receive-send,unlock就是將資料丟給下一個人
lock則是擷取資料,如果資料傳遞路徑變短,原則上會降低溫度
但實際上是:因為傳輸變得更有效率,每個核心的「微小閒置」變得非常少
這個微小閒置就是pipeline的bubble,或者本廢宅在實驗室等email的時間
如果傳遞距離比較近,速度快,核心找不到偷懶的理由,因此很辛勤的工作
基於
「台灣勞工變成老闆,就會是血汗老闆」的基本原理
核心很忙是我們樂見的,因此整體溫度是增加的,花那麼多錢買CPU,不超爆它嗎?
「然而我們並沒有那樣的血汗,至少給了大同電風扇,
比起城戶沙織,還算是不錯」
~~引用(
https://hackmd.io/_uploads/S1R4G8N52.jpg)
跟聖鬥士一樣,我們的小宇宙是不夠的,還有來自成大jserv大人、城市大學、中研院
頂頭上司,中正大學、科技部+國科會
參加會議時,有位在美國工作的台灣人說:這篇論文就是一股台灣味
不是氣勢宏偉的,而是小家碧玉型,台灣學術界比較少氣勢宏偉的伺服器
跟左岸的閒聊,系統軟體是國家重點項目,外加企業挹注資金,的確宏偉高大許多
右岸的論文也是氣勢滂薄
台灣軟體,搞了很久,我從小廢宅變成了老廢宅,台灣很重視利基 niche(硬體)
認為軟體可以在硬體基礎上變大變強。
在Nvdia上的確看到這樣,軟體所成的護城河,讓AMD很難攻進去。
x86能紅到現在,也是靠軟體所形成的完整生態圈,
ARM很難切入x86的普通領域,特別是許多公司有專屬軟體,這類軟體的可移植性很差
規劃上很合理,在落實方面常常偏向於「硬體功能的直覺延伸」(有錯請糾正)
大家怎樣理解「驅動程式」,這不一定是作業系統底層的那個驅動,
我認為直覺上延伸自硬體,而沒發展出超乎硬體的軟體,就只能稱之為驅動程式
iPhone會成功,是因為它上面有很多軟體,這些軟體讓我們更離不開iPhone
台灣這樣的發展沒好沒壞,或許在有限的人力、物力下,這樣的模式最適合
也或許可以像是新加坡那樣,有更開放的空間
太多運氣成份在裡面,或許沒有機會再到OSDI,
基於「知恥近乎勇,無恥那絕對是神勇」的精神
詢問工作人員可不可以在會後把OSDI的牌子帶回家紀念,底下是這次最好的收藏
https://hackmd.io/_uploads/S1n25_Qqn.jpg
左邊是Ron高舉OSDI的牌子,背景是我P圖的
https://hackmd.io/_uploads/rkHL1vV9h.jpg
跟工作人員說,可不可以給我Ron也一張名牌
國名有些問題,在官方正式文件已經做了修改,但名牌沒改,不要砲我
廢材被閃電打到,就會有熊熊火光
系統軟體的大神,是不斷地發光,讓這個領域持續進步
像jserv是全方面的領先,而我對系統的認知就只是單點
如果有研究生需要喝一碗熱雞湯,這個文章應該可以給您恢復一些生命力
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.236.56.114 (臺灣)
※ 作者: LuoShiWu 2023-07-19 03:08:02
※ 文章代碼(AID): #1ajkCKR7 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1689707284.A.6C7.html
※ 同主題文章:
Re: [新聞] 中正資工新技術助電腦效能大躍進 獲「系統界奧斯卡」肯
07-19 03:08 LuoShiWu.
推 akiha: 頭推1F 42.72.201.163 台灣 07/19 03:10
推 kirayue: 推強者2F 101.12.54.15 台灣 07/19 03:10
推 saedn: 先推 雖然我看不懂3F 1.200.113.226 台灣 07/19 03:11
推 ZhouGongJin: 哥你這樣叫書讀的少那板上會太多文盲4F 111.83.66.234 台灣 07/19 03:12
推 cccict: 晚上拼簽到5F 114.24.199.228 台灣 07/19 03:14
推 saedn: 好厲害 可以敲碗求文嗎?7F 1.200.113.226 台灣 07/19 03:16
推 JCgaga: 推8F 58.114.91.117 台灣 07/19 03:16
推 akiha: 所以是類似Ring bus的概念嗎?9F 42.72.201.163 台灣 07/19 03:18
推 medama: 推10F 1.200.74.130 台灣 07/19 03:19
推 Kamelie: 推11F 36.238.22.149 台灣 07/19 03:21
推 Firstshadow: 教授是不用睡覺484喇12F 223.137.111.124 台灣 07/19 03:23
推 sawayama9: 趕快先推 假裝我看得懂13F 123.194.156.119 台灣 07/19 03:23
推 Julibea: 推14F 125.229.148.252 台灣 07/19 03:27
推 L1ON: 有神快拜 百推內15F 180.217.228.144 台灣 07/19 03:27
推 lkjy3697n: 推16F 1.169.129.175 台灣 07/19 03:29
推 MK47: 推17F 36.235.177.68 台灣 07/19 03:29
噓 renna038766: 太長 文組看不懂20F 1.160.152.160 台灣 07/19 03:32
推 Chilloutt: 簽到21F 223.137.133.158 台灣 07/19 03:32
推 Vray: 看不懂,但推強者22F 223.136.79.142 台灣 07/19 03:37
推 b90022790: 推23F 122.117.46.233 台灣 07/19 03:38
推 cmcmisgod: 不過兩大家現在的走向像是反而不要操爆核心 反而用大小核來分 平常沒事用小24F 180.217.249.170 台灣 07/19 03:38
推 DChsu: 推26F 140.116.136.104 台灣 07/19 03:38
→ cmcmisgod: 核省電27F 180.217.249.170 台灣 07/19 03:39
推 ioff: 推30F 42.73.97.53 台灣 07/19 03:46
推 JF5385: 推31F 223.140.184.238 台灣 07/19 03:48
推 relaughter: 所以變成效能or節能的trade-off嗎?32F 114.41.81.111 台灣 07/19 03:51
推 qewadszxc: 推34F 210.66.250.29 台灣 07/19 03:54
推 s9234032: 看不懂 但是幫你推37F 59.115.183.73 台灣 07/19 03:57
→ LuoShiWu: 前有人提出好問題,會不會變得更熱
回應這個問題越寫越多
效能和節能在這個例子似乎是同時增加
CPU內部的運作是黑盒子,很難說38F 36.236.56.114 台灣 07/19 04:01
推 leo13437: 雖然太長又看不懂 還是推一個42F 118.150.186.139 台灣 07/19 04:10
推 hank61204: 推爆43F 39.14.66.217 台灣 07/19 04:14
推 JJJZZs: 有神44F 220.132.216.204 台灣 07/19 04:14
推 friends29: 跪著讀完第二篇45F 118.160.143.28 台灣 07/19 04:17
推 augustsnow: 神人推一個46F 118.160.146.155 台灣 07/19 04:18
推 NX9999: 推大神47F 116.241.64.93 台灣 07/19 04:18
推 taco20: 看不懂推49F 1.200.14.50 台灣 07/19 04:28
推 www17010: 推用心教授50F 223.136.202.195 台灣 07/19 04:30
推 tfyzgmf: 推53F 36.237.112.92 台灣 07/19 04:45
推 gofunfull: 推55F 101.137.62.236 台灣 07/19 04:56
推 nobody321: 推56F 220.134.13.29 台灣 07/19 05:00
推 tist: 推57F 114.136.195.168 台灣 07/19 05:24
推 mia3: 推58F 111.248.55.184 台灣 07/19 05:26
推 xp1224n: 我看見神了61F 61.223.33.45 台灣 07/19 05:40
推 aqasia: 推63F 101.10.0.152 台灣 07/19 06:00
推 wilbur0406: 看不懂推64F 223.137.14.209 台灣 07/19 06:07
推 Kaneshiro: 強者65F 61.228.142.195 台灣 07/19 06:08
推 renfro928: 推66F 223.138.147.22 台灣 07/19 06:09
推 squelch: 教授好接地氣!!!68F 114.44.211.48 台灣 07/19 06:14
推 ticy: 推70F 223.140.36.240 台灣 07/19 06:19
推 HOMEWA: 專業71F 1.164.94.137 台灣 07/19 06:22
推 lon74123: 大神72F 42.73.43.32 台灣 07/19 06:23
推 shen485: 推!73F 114.40.209.41 台灣 07/19 06:24
推 chaoliu: 論文發想的過程很有趣74F 111.248.108.58 台灣 07/19 06:24
推 timtdsas: 樓下jserv75F 140.116.187.71 台灣 07/19 06:26
推 alta1101: 推76F 42.75.6.147 台灣 07/19 06:27
推 way7344: 推78F 180.217.229.46 台灣 07/19 06:32
推 somanyee: 看不懂的+180F 220.133.195.213 台灣 07/19 06:34
推 chayoung: 推82F 118.160.0.250 台灣 07/19 06:35
推 b51: 推83F 1.171.155.130 台灣 07/19 06:36
推 norechang: 的確有濃濃的民雄鄉土味,朝起朝落,多少寒暑?84F 59.127.15.37 台灣 07/19 06:39
推 ericlive: 好文推!86F 123.192.240.150 台灣 07/19 06:41
推 ACRM2929: 先推假裝我看得懂87F 101.136.229.251 台灣 07/19 06:47
推 s0805744: 神人推88F 59.120.213.129 台灣 07/19 06:48
推 limbo3014: 不懂但推90F 101.137.241.194 台灣 07/19 06:51
推 zsa123: 推91F 106.64.104.146 台灣 07/19 06:51
推 sn0w: 先推你 ptt需要多點知識文
昨天Google 新聞莫名跳出Dcard文 看頂大生回93F 27.247.1.228 台灣 07/19 06:52
推 jen1121: 推95F 180.217.27.52 台灣 07/19 06:52
→ sn0w: 文真的搖頭及擔憂96F 27.247.1.228 台灣 07/19 06:52
推 icantsay: 這我國小就想過了 論文寫不出來而已97F 123.195.87.173 台灣 07/19 06:56
推 bbosiq: 推98F 223.139.48.74 台灣 07/19 06:56
推 eroha90021: 謝謝你
謝謝你321F 111.82.35.118 台灣 07/19 10:59
推 tommytyc: 推羅教授324F 118.231.128.227 台灣 07/19 11:08
推 jack123573: 酷哥325F 114.136.141.173 台灣 07/19 11:10
--