看板 Gossiping
作者 LuoShiWu ()
標題 Re: [新聞] 中正資工新技術助電腦效能大躍進 獲「系統界奧斯卡」肯
時間 Wed Jul 19 03:08:02 2023


先講一下為什麼會有這樣的想法
大概二十多年前晶片網路(network on chip)就很紅
意思是晶片上有很多運算核心(core),每個core就像一台小電腦
然後把他們連接起來的方式就叫做晶片網路
晶片網路的原理跟電腦網路差不多,但晶片網路會比較有規則性
比較像是電腦教室的電腦,整齊擺放、整齊拉線,不會像是宿舍裡面的電腦

又剛好知道 Linux kernel 的 spinlock 演算法是 MCS
MCS是把等待進入 critical section 的 task 以 linked list 連在一起,形成FIFO
又又剛好,研究所時是做scheduling的,看到linked list,直覺上就是可以scheduling
然後就是最短路徑排程了

跟別人的差別在於,我讀書讀得比較少 :-p
大概十幾年前有人推出一個叫做cohort的演算法,在多處理器上以grouping的方式排序
這個方法跟最短路徑的差別是:

        「同一個group的是不分前後順序,也就是同一個group就不再做細緻的優化」

使用最短路徑,優化的細緻度好很多,但這方法也有些缺點,方法稍微複雜一些
我認為處理器的核心數目越多,那麼最短路徑方法才會贏過其他方法
運氣很好的是,AMD忽然爆發小宇宙(參考 聖鬥士星矢),多核心從4顆變成32以上
就從「早晚會有用的演算法,變成現在就有用」

cohort是一個很棒的方法,非常的成功,在多處理器架構下他的效能很好,
因為很成功,做這方面的人都會去看他這篇論文,cohort的grouping概念
就影響了這時期的spinlock方法,因為我不曉得有cohort因此沒有受到影響


再來是為什麼投了四年還要繼續投,難道第二、第三年不會想要放棄嗎?
我真的很想上OSDI,但reviewer不太相信我們,有一種「民雄地下道標語的感覺」

        「不是路走到盡頭,而是該轉彎」
        (參考:https://hackmd.io/_uploads/HkQzvS4c3.jpg,來源:facebook網路)
[圖]

但。。。老天爺就叫我一條路走到黑,投稿到次一級的會議
那個reviewer給我的感覺並不是相不相信的問題,而是有沒有認真看
要被後者reject,還不如被前者。為什麼執著於會議,因為我的領域就是會議比較重要

講到這裡好像都很吃運氣,補充一點不是運氣的部分
晶片網路不是我的研究領域,但念博士時還是有去看一下,這是因為計算機組織很迷人
google news也會推最新的硬體技術給我,因此這部分還有持續了解

第一次看到 MCS,是在「奔跑吧Linux kernel的作者『笨叔叔』」的wechat論壇
他下了個聳動標題「Linux kernel 黑科技 MCS」
大家可以去看MCS的文章,https://zhuanlan.zhihu.com/p/89058726
我概略性的看過,無論是中文或者是英文都看不懂(我相信jserv一定秒懂)
看不懂去洗個澡,然後看懂這個方法也想到這個資料結構可以排程

排程是我的老本行,雖然很久不做scheduling,但直覺還是有的
這種有先後順序,而且還是FIFO的鐵定可以排程
能改善多少要看演算法多逼近最短路徑,演算法的cost多少則看要逼進到則樣的程度,
不能太追求最短路徑,否則光是演算的成本就會過高
感覺起來就是跟作業系統耍曖昧,若即若離。寫論文渣一點沒關係啦,能動就好

最後就是寫程式,我們本來就對C語言和計算機結構比較熟,
問題不是太大,三個星期完成骨幹,後面就是定量分析和實際跑跑應用程式

在過往的研究上,失敗的紀錄超多,雖然國科會的報告寫得好像是一回事
但是改善幅度太小,根本不值得發表,有時候對實驗室做出來的成果也沒啥信心
這部分也不適合發表,我真的很缺論文,但也很討厭讀到過度包裝的論文
視情況決定要不要寫,實驗室總是要運營

有四年的時間在績效方面,本廢宅完全是國科會的米蟲
感謝國科會願意讓米蟲每年都有經費可以拿,感謝委員願意相信計畫書
有一點成果以後,又希望國科會可以多給實驗室經費
只有使用AMD 32核心處理器,審查委員眉頭一皺,覺得這裡面肯定有貓膩(真的發生)
「Intel、ARM的伺服器太貴」,這不能是理由,這是研究者自己要想辦法的

        「人在不順利時希望社會主義,
                      順利時希望希望功利主義」
                                ~~陳厝寮170號,廢才哲學家,shiwu

我看到有人提到「壓榨硬體效能會不會增加耗電」這問題很棒,
lock-unlock,就像是receive-send,unlock就是將資料丟給下一個人
lock則是擷取資料,如果資料傳遞路徑變短,原則上會降低溫度

但實際上是:因為傳輸變得更有效率,每個核心的「微小閒置」變得非常少
這個微小閒置就是pipeline的bubble,或者本廢宅在實驗室等email的時間
如果傳遞距離比較近,速度快,核心找不到偷懶的理由,因此很辛勤的工作
基於


        「台灣勞工變成老闆,就會是血汗老闆」的基本原理

核心很忙是我們樂見的,因此整體溫度是增加的,花那麼多錢買CPU,不超爆它嗎?

        「然而我們並沒有那樣的血汗,至少給了大同電風扇,
                比起城戶沙織,還算是不錯」
                        ~~引用(https://hackmd.io/_uploads/S1R4G8N52.jpg
[圖]

跟聖鬥士一樣,我們的小宇宙是不夠的,還有來自成大jserv大人、城市大學、中研院
頂頭上司,中正大學、科技部+國科會

參加會議時,有位在美國工作的台灣人說:這篇論文就是一股台灣味
不是氣勢宏偉的,而是小家碧玉型,台灣學術界比較少氣勢宏偉的伺服器
跟左岸的閒聊,系統軟體是國家重點項目,外加企業挹注資金,的確宏偉高大許多
右岸的論文也是氣勢滂薄

台灣軟體,搞了很久,我從小廢宅變成了老廢宅,台灣很重視利基 niche(硬體)
認為軟體可以在硬體基礎上變大變強。
在Nvdia上的確看到這樣,軟體所成的護城河,讓AMD很難攻進去。
x86能紅到現在,也是靠軟體所形成的完整生態圈,
ARM很難切入x86的普通領域,特別是許多公司有專屬軟體,這類軟體的可移植性很差

規劃上很合理,在落實方面常常偏向於「硬體功能的直覺延伸」(有錯請糾正)
大家怎樣理解「驅動程式」,這不一定是作業系統底層的那個驅動,
我認為直覺上延伸自硬體,而沒發展出超乎硬體的軟體,就只能稱之為驅動程式
iPhone會成功,是因為它上面有很多軟體,這些軟體讓我們更離不開iPhone

台灣這樣的發展沒好沒壞,或許在有限的人力、物力下,這樣的模式最適合
也或許可以像是新加坡那樣,有更開放的空間


太多運氣成份在裡面,或許沒有機會再到OSDI,

        基於「知恥近乎勇,無恥那絕對是神勇」的精神

詢問工作人員可不可以在會後把OSDI的牌子帶回家紀念,底下是這次最好的收藏

https://hackmd.io/_uploads/S1n25_Qqn.jpg
[圖]
左邊是Ron高舉OSDI的牌子,背景是我P圖的
https://hackmd.io/_uploads/rkHL1vV9h.jpg
[圖]
跟工作人員說,可不可以給我Ron也一張名牌
國名有些問題,在官方正式文件已經做了修改,但名牌沒改,不要砲我

        廢材被閃電打到,就會有熊熊火光
            系統軟體的大神,是不斷地發光,讓這個領域持續進步

像jserv是全方面的領先,而我對系統的認知就只是單點
如果有研究生需要喝一碗熱雞湯,這個文章應該可以給您恢復一些生命力

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.236.56.114 (臺灣)
※ 作者: LuoShiWu 2023-07-19 03:08:02
※ 文章代碼(AID): #1ajkCKR7 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1689707284.A.6C7.html
※ 同主題文章:
Re: [新聞] 中正資工新技術助電腦效能大躍進 獲「系統界奧斯卡」肯
07-19 03:08 LuoShiWu.
akiha: 頭推1F 42.72.201.163 台灣 07/19 03:10
kirayue: 推強者2F 101.12.54.15 台灣 07/19 03:10
saedn: 先推 雖然我看不懂3F 1.200.113.226 台灣 07/19 03:11
ZhouGongJin: 哥你這樣叫書讀的少那板上會太多文盲4F 111.83.66.234 台灣 07/19 03:12
cccict: 晚上拼簽到5F 114.24.199.228 台灣 07/19 03:14
zqAI3yGOAT: 推6F 140.112.230.179 台灣 07/19 03:15
saedn: 好厲害 可以敲碗求文嗎?7F 1.200.113.226 台灣 07/19 03:16
JCgaga: 推8F 58.114.91.117 台灣 07/19 03:16
akiha: 所以是類似Ring bus的概念嗎?9F 42.72.201.163 台灣 07/19 03:18
medama: 推10F 1.200.74.130 台灣 07/19 03:19
Kamelie: 推11F 36.238.22.149 台灣 07/19 03:21
Firstshadow: 教授是不用睡覺484喇12F 223.137.111.124 台灣 07/19 03:23
sawayama9: 趕快先推 假裝我看得懂13F 123.194.156.119 台灣 07/19 03:23
Julibea: 推14F 125.229.148.252 台灣 07/19 03:27
L1ON: 有神快拜 百推內15F 180.217.228.144 台灣 07/19 03:27
lkjy3697n: 推16F 1.169.129.175 台灣 07/19 03:29
MK47: 推17F 36.235.177.68 台灣 07/19 03:29
rockieloser: 推18F 61.223.204.131 台灣 07/19 03:31
qweloope8877: 推19F 27.242.129.128 台灣 07/19 03:32
renna038766: 太長 文組看不懂20F 1.160.152.160 台灣 07/19 03:32
Chilloutt: 簽到21F 223.137.133.158 台灣 07/19 03:32
Vray: 看不懂,但推強者22F 223.136.79.142 台灣 07/19 03:37
b90022790: 推23F 122.117.46.233 台灣 07/19 03:38
cmcmisgod: 不過兩大家現在的走向像是反而不要操爆核心  反而用大小核來分 平常沒事用小24F 180.217.249.170 台灣 07/19 03:38
DChsu: 推26F 140.116.136.104 台灣 07/19 03:38
cmcmisgod: 核省電27F 180.217.249.170 台灣 07/19 03:39
riptheworld: 看不懂28F 27.51.129.119 台灣 07/19 03:40
zorro1111: 推29F 114.37.23.3 台灣 07/19 03:40
ioff: 推30F 42.73.97.53 台灣 07/19 03:46
JF5385: 推31F 223.140.184.238 台灣 07/19 03:48
relaughter: 所以變成效能or節能的trade-off嗎?32F 114.41.81.111 台灣 07/19 03:51
lianpig5566: 資工推33F 125.229.142.121 台灣 07/19 03:52
qewadszxc: 推34F 210.66.250.29 台灣 07/19 03:54
darren8221:35F 12.22.141.131 美國 07/19 03:55
CharleneTsai: 推36F 49.216.162.75 台灣 07/19 03:55
s9234032: 看不懂 但是幫你推37F 59.115.183.73 台灣 07/19 03:57
LuoShiWu: 前有人提出好問題,會不會變得更熱
回應這個問題越寫越多
效能和節能在這個例子似乎是同時增加
CPU內部的運作是黑盒子,很難說38F 36.236.56.114 台灣 07/19 04:01
leo13437: 雖然太長又看不懂 還是推一個42F 118.150.186.139 台灣 07/19 04:10
hank61204: 推爆43F 39.14.66.217 台灣 07/19 04:14
JJJZZs: 有神44F 220.132.216.204 台灣 07/19 04:14
friends29: 跪著讀完第二篇45F 118.160.143.28 台灣 07/19 04:17
augustsnow: 神人推一個46F 118.160.146.155 台灣 07/19 04:18
NX9999: 推大神47F 116.241.64.93 台灣 07/19 04:18
manic7058463: 還是看不懂 推48F 114.27.176.189 台灣 07/19 04:23
taco20: 看不懂推49F 1.200.14.50 台灣 07/19 04:28
www17010: 推用心教授50F 223.136.202.195 台灣 07/19 04:30
asdf159000: 推51F 1.170.249.28 台灣 07/19 04:39
poison5566: 太神啦52F 172.56.54.86 美國 07/19 04:41
tfyzgmf: 推53F 36.237.112.92 台灣 07/19 04:45
hcwang1126: 推54F 118.166.29.44 台灣 07/19 04:50
gofunfull: 推55F 101.137.62.236 台灣 07/19 04:56
nobody321: 推56F 220.134.13.29 台灣 07/19 05:00
tist: 推57F 114.136.195.168 台灣 07/19 05:24
mia3: 推58F 111.248.55.184 台灣 07/19 05:26
rickphyman42: 推大師59F 122.147.22.212 台灣 07/19 05:30
peony0209: 推60F 1.168.26.65 台灣 07/19 05:38
xp1224n: 我看見神了61F 61.223.33.45 台灣 07/19 05:40
herculus6502: 推62F 223.137.77.159 台灣 07/19 05:59
aqasia: 推63F 101.10.0.152 台灣 07/19 06:00
wilbur0406: 看不懂推64F 223.137.14.209 台灣 07/19 06:07
Kaneshiro: 強者65F 61.228.142.195 台灣 07/19 06:08
renfro928: 推66F 223.138.147.22 台灣 07/19 06:09
amethystboy: 好67F 111.243.134.122 台灣 07/19 06:10
squelch: 教授好接地氣!!!68F 114.44.211.48 台灣 07/19 06:14
hankwanghow: 嗯嗯很好69F 223.139.91.220 台灣 07/19 06:15
ticy: 推70F 223.140.36.240 台灣 07/19 06:19
HOMEWA: 專業71F 1.164.94.137 台灣 07/19 06:22
lon74123: 大神72F 42.73.43.32 台灣 07/19 06:23
shen485: 推!73F 114.40.209.41 台灣 07/19 06:24
chaoliu: 論文發想的過程很有趣74F 111.248.108.58 台灣 07/19 06:24
timtdsas: 樓下jserv75F 140.116.187.71 台灣 07/19 06:26
alta1101: 推76F 42.75.6.147 台灣 07/19 06:27
paladin90974: 推77F 111.255.232.3 台灣 07/19 06:29
way7344: 推78F 180.217.229.46 台灣 07/19 06:32
jimjim951357: 推79F 42.73.251.40 台灣 07/19 06:33
somanyee: 看不懂的+180F 220.133.195.213 台灣 07/19 06:34
dovepacket: 太神啦81F 49.216.30.221 台灣 07/19 06:34
chayoung: 推82F 118.160.0.250 台灣 07/19 06:35
b51: 推83F 1.171.155.130 台灣 07/19 06:36
norechang: 的確有濃濃的民雄鄉土味,朝起朝落,多少寒暑?84F 59.127.15.37 台灣 07/19 06:39
ericlive: 好文推!86F 123.192.240.150 台灣 07/19 06:41
ACRM2929: 先推假裝我看得懂87F 101.136.229.251 台灣 07/19 06:47
s0805744: 神人推88F 59.120.213.129 台灣 07/19 06:48
maurice9325: 推89F 49.216.16.122 台灣 07/19 06:49
limbo3014: 不懂但推90F 101.137.241.194 台灣 07/19 06:51
zsa123: 推91F 106.64.104.146 台灣 07/19 06:51
b0204888100: 學術推92F 219.91.106.87 台灣 07/19 06:51
sn0w: 先推你 ptt需要多點知識文
昨天Google 新聞莫名跳出Dcard文 看頂大生回93F 27.247.1.228 台灣 07/19 06:52
jen1121: 推95F 180.217.27.52 台灣 07/19 06:52
sn0w: 文真的搖頭及擔憂96F 27.247.1.228 台灣 07/19 06:52
icantsay: 這我國小就想過了 論文寫不出來而已97F 123.195.87.173 台灣 07/19 06:56
bbosiq: 推98F 223.139.48.74 台灣 07/19 06:56
terry910333: 推99F 42.79.236.2 台灣 07/19 06:57
eroha90021: 謝謝你
謝謝你321F 111.82.35.118 台灣 07/19 10:59
gamania0258: 推推323F 111.252.85.31 台灣 07/19 11:05
tommytyc: 推羅教授324F 118.231.128.227 台灣 07/19 11:08
jack123573: 酷哥325F 114.136.141.173 台灣 07/19 11:10

--
--
作者 LuoShiWu 的最新發文:
點此顯示更多發文記錄
(LuoShiWu.): Re: [新聞] 中正資工新技術助電腦效能大躍進 獲「系統界奧斯卡」肯 - Gossiping板