顯示廣告
隱藏 ✕
※ 本文為 IdleCafe.bbs. 轉寄自 ptt.cc 更新時間: 2014-02-12 22:52:09
看板 Gossiping
作者 JeremyJoung (J.J.)
標題 Re: [新聞] 新戶政系統疑綁標 內政部送政風調查
時間 Mon Feb 10 22:15:44 2014


戶政系統這次出的包說真的實在是可笑到極點

老實說 以系統負載的觀點來看 這實在是個小不拉機的系統
毎日交易次數1萬筆 相當於是8秒鐘才一次寫入
讀取數量我們給他放大個十倍(差不多) 一秒鐘也不過才1~2個讀取
這對於任何設計正確的sql來說 都是個小到不行的負載

雖然戶籍人數再加上已故人口大概有3000萬筆以上紀錄 屬於略肥大的資料庫
但是 配合簡單的分流與索引加速 一筆查詢還是可以輕易控制在100ms內完成
(100ms對於普通SQL命令來說 已經是難以忍受的天文數字


簡單的講解一下SQL的效能
在批次優化的前提下 一台普通的AMD 4核心pc加上免費的MySQL(其實很強)
就可以實現一秒鐘5萬次以上的線性寫入(不誇張)

雖然資料複雜度略為不同 不能完全等同比較
(阿~ 充其量不過就是堆文字塊而已 到底是能有多複雜??)
等於是 全國一天所有的戶政交易執行 有可能用普通電腦一秒鐘就全部做完了
更何況 公家機關使用的硬體等級甚高 使用的也是怪物級的oracle
(oracle真的是名符其實的怪物 在沒有任何索引優化的前提下 數十萬數量級的暴力查詢
速度可以跟有使用索引的MySQL一樣快 要不是買不起 還真是很心動)

這次還能搞成這樣 還真不知道他們的工程師有沒有念過大學
不 其實搞不好就是因為大學唸太多才會這麼弱吧(笑~



不過話說回來 其實以我的實作經驗來看 這次的崩潰跟sql一點關係都沒有
最有可能的狀況其實就是跟那個 "可憐我吧"的噓噓東etag完全一模一樣的情形
只是很純粹的玩SOCKetS(甚至是更吃重的SSL)玩到自己DDoS自己罷了
雖然說 這只是個很低級的鎖死 大一大二就會教
但實際上在戶政系統這種規模的連線數量級裡(1-5萬客戶端) 是絕對會發生的
而且偏偏戶政系統的連線特性又正是 "佔著毛坑不拉屎"
毎一個18% 每天上班第一件事情就是 打開電腦連線登入戶政系統
因此只要是在上工時間內 戶政系統上有多少個18% 就會有多少個"永久連線"
而且別忘了 很可能連全國鴿子叔叔都是要一起被算進去的
因此 這個系統每天都要忍受上萬個掛機殭屍
這對一般系統來說其實是非常致命性的洪水攻擊

如果沒開發經驗的菜鳥 第一次執行這種大型專案
很可能就會把它當成普通小朋友的專題來規劃

如果沒有做任何分流 緩衝或SWAP 自然就會瞬間被擊潰

而所謂的壓力測試我看也不過是用少數甚至是單一台主機 以超高頻率去執行交易而已
但這種單一連線對於大型系統來說 這其實是輕鬆到不行的任務
根本稱不上任何壓力 用一跟小指頭就可以輕鬆檔下來了
就像是我之前說的 普通PC在單一連線下 一秒鍾都可以寫入5萬次以上 何況是機櫃

總之 這個系統大概是由於架構先天上的致命設計錯誤(現在已不能修改)
想要治標的代價是 必須使用合理等級10倍以上(甚至更多)的硬體去負載
才能忍受這樣的連線特徵(攤手


--
補充一個掛

我在台北的某國立博物館打工維修數位典藏時 那種資料才叫噁心
(不是山坡上那家最大的違建 但也是大多數人都很熟的大咖
 而且人家也不是博物館是博物"院" 位階可高多了 是和小江江是平起平坐的
 人家可有自己的獨立預算 才不削我們這種雜魚

原本系統設計都是10的年壽命+維護
但該原始開發商在驗收後就給他惡性倒閉 重組後就烙跑了
然後呢 很快的系統就整個癱瘓不動了 還真是一點都不意外(灑花

當然 研究員為了避免要去坐牢 所以我們團隊幾人就秘密的進去維修
博物館的資料結構真的是說有多複雜就多複雜
文字資料本身就已經很難以閱讀 若不是專門研究員還真看不懂他在幹嘛
(在裡面 專科碩士的工作就只是幫忙"輸入打字" 這不誇張就是這樣
然後每個學門之間資料也當然都長的不一樣 這也是必然的

在這樣的環境下 所有不同學門間都要用同一套系統來乘裝
而且還要再套用到標準的簽呈系統上
更要命的是 架構設計不但疊床架屋 原始開發商還刻意加密上鎖 要修改前都還要先解密
(大家都愛搞這套 尤其是越沒本事的人越愛上鎖

剛開始的時候真是搞的哇哇叫
相比之下 這種單調又簡單到爆的戶政資料 根本就跟幼稚園的注音符號一樣簡單阿(吐煙
搞不好連之前破解進銷存的ERP系統都還比他複雜多了


然後勒 重點來了
前幾年偉大的文化局的某很聰明的資訊組長又獨排眾議(全台所有國立博物館)
要搞一套雲端聯合數位典藏
每次開會 全國博物館代表都說NO 還為此吵架
結果最後還是搞了一套全國聯合雲端典藏系統

如果以前內科兼看外科就算了 這次是連獸醫`植物醫也都一起包進去了 夠厲害了吧~~

反正 後來那套異形去年時已經驗收上線了
不過聽館內研究員說 "其實功能並沒有完全按照規格完成 東西有少只是個半成品而已"
反正 半成品是怎樣被驗過的我也不知道就是(歪頭


我想這也是理所當然的 我自認算是相當有水平也花了兩年時間才摸熟的系統架構
他們想要用半年時間就解析並且還要實作 除非他們有長門大明神在
否則根本就是在做白日夢



反正啊
這就是台灣的公家政府 專家說的都是屁 只有老大哥講的一句話才是對的(茶

-
另外 現在在北捷信義線內的某個玩具 也是我做的
雖然施工時間只花三天左右
但是上頭組長的品味不但是朝令夕改(沒有錄音真是敗筆) 而且還很有態度喔~

九月底完工 搞到年底才全部驗收完 我上頭的大包和二包商差點要崩潰
真的是驗證了 "要殺了一個工程師只要改三次規格就好" 一點都不假
(而且標案本身又是低價去搶擴充整合標 被搶標的原始開發商還是會惡整人的那種
 上一個去搶標的遠傳 被玩到最後一毛錢都沒拿到手. 畢竟是噓噓東不意外[攤手

因為我已經有被整的心理建設 而且還有預留很多規格
所以改的都還算快 不然我想也會抓狂

嘛~ 就是這樣(茶

※ 引述《NowQmmmmmmmm (滷蛇之王)》之銘言:
: ※ 引述《schizophrena (你很記者你很腦殘)》之銘言:
: : 自由時報
: : 新戶政系統疑綁標 內政部送政風調查
: : 〔本報訊〕內政部新一代戶役政資訊系統狀況不斷,民進黨立委陳其邁更爆料系統採購案
: : 有綁標之嫌,如同「江宜樺撒錢,李鴻源擦屁股」。對此,內政部次長蕭家淇今(10日)
: : 表示,全案將移送政風單位調查。
: :  陳其邁表示,資訊採購案是在行政院長江宜樺擔任內政部長任內發包,採用「限制性招
: : 標」的方式開標,最後僅1家廠商投標,有綁標之嫌,且整個系統計畫總經費達21.7億元
: : ,並非僅6億元。
: :  蕭家淇回應,資訊採購規劃歷經4任部長,其中預算是在2009年編列,並分成6個計畫,
: : 由廖了以、江宜樺、李鴻源分別招標執行,無論是哪一年度發包的執行案,如今發生問題
: : ,內政部將會把招標案送交政風單位調查,內政部及地方政府人員也會盡全力克服各項問
: : 題,等問題處理告一段落後,一定會查明相關人員的責任。。
: : http://ppt.cc/3GlT
新戶政系統疑綁標 內政部送政風調查 - 自由電子報 即時新聞
[圖]
[圖]
〔本報訊〕內政部新一代戶役政資訊系統狀況不斷,民進黨立委陳其邁更爆料系統採購案有綁標之嫌,如同「江宜樺撒錢,李鴻源擦屁股」。對此,內政部次長蕭家淇今(10日)表 ...
 
: : 我是中間選民
: : 為什麼在野黨都沒有好好監督這樣的事?
: : 我們真的很失望 台灣就是沒有好的在野黨監督 也提不出好的人選
: 唉 其實系統這種東西真的很麻煩
: 我現在也是負責中央部會的一個系統案,所以可以大概解說一下現在這種案的結構
: 主承包商→協力廠商→其他配合廠商
: 現在的大案子光靠一家通常是吃不下案子的,所以通常都會有好幾家聯合起來當主要承包
: 商,像目前我們的案子是三家,然後再配合其他家把系統撐起來
: 我們的系統已經算是簡單的了,不過還是有很多東西是我們沒辦法做,要靠協力商幫忙做
: 系統,系統包括的也很廣泛,從資料庫到後台到前台到軟硬體網頁資料輸入有的沒的雜七
: 雜八都要整合再一起,團隊成員也是臨時建立的,所以很多需要溝通協調,還有部分團隊
: 成員就是來鬧的,一點戰鬥力都沒有,也很容易變成幾個主要的在扛而已..
: 而以內政部這個案是資拓宏宇主標商,主要股東是資策會、中華電信、IBM Taiwan...
: 再來是三家公司資拓科技、宏瞻資訊與拓宇科技整合在一起才能撐的起來這個案
: 光系統的複雜程度大概就是三個ETC的程度吧,如果還有長官加了一堆想法跟創意的話,
: 說實在的只有一家廠商標一點也不意外,因為光要做這個案你廠商能力不夠根本頂不下來
: ,看起來資拓科技、宏瞻資訊與拓宇科技也是為了整合更快乾脆合併再一起..
: 其實做系統最怕長官源源不絕的創意,他們會覺得甲跟乙跟丙跟丁的功能可以做在一起,
: 但甲乙丙丁功能建置的時候可能是用不同系統與資料庫做的,後面才勉強做個平台整合在
: 一起,尤其是以前看過中華電信的客服系統做的最誇張=.=啥都加到一個介面上運作..超
: 強不過掛掉機率也高XD
: 這個案子肯定是想把所有功能都做進去,卻沒考量到以前建置舊系統要轉換跟中介軟體相
: 容性要夠強共構系統跟資料庫都很複雜,才會變得這麼痛苦..光在整合系統跟資料庫正常
: 運作就會很困難..
: 戶政系統東西又多又雜,又要整合做一些功能,光讓工程師DEBUG大概就會DE死人
: 所以這些東西其實是急不得的..有時候光讓工程師們DE一個BUG大概就要DE好幾天,而且
: DE完一個又會跑出一個新的,所以都要靠經驗跟耐心還有溝通不斷測試才能讓系統正常一
: 點
: 可是有時候長官不懂就一直催著趕進度趕上架趕玲娘..結果就是大家一起被罵而以,要是
: 弄到幾個主要工程師不爽走人,又要補新的重新來,這才是真的趕玲娘..
: 因為案子經費太大,為了怕今年度沒用完明年的被刪掉下不來,也常會被要求超前進度讓
: 政府好報帳先卡位..其實很多都是環環相扣,就讓系統真的都搞好在上架咩..一直趕就是
: 賭運氣了..

--
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 59.115.117.37
WizZ:恩恩阿阿  跟我想得差不多 快推不然會被發現是文組1F 02/10 22:16
championtsai:這篇你寫多久2F 02/10 22:17
Xenogamer:小蛇我看不懂3F 02/10 22:18
f1234518456:減價驗收以後再發包ㄧ次大家又可以吃飽飽ㄌ 政府萬歲4F 02/10 22:20
yves1022:快請資拓科技高薪聘請你,一天就可以搞定了5F 02/10 22:20
ldkrsi:戶政系統我覺得是被同步玩死 台灣很喜歡每個單位自已管機器6F 02/10 22:22
LinOne:資拓科技如果願意出高薪,會是今天這種局面?!!7F 02/10 22:22
ldkrsi:資料庫設計不良 一下就爆炸了8F 02/10 22:22
xxxg00w0:我是離開這相關系列工作一段時間了 不過突然想到一個問題9F 02/10 22:23
Lxr:真的~ 台灣的競爭力不是被別人打倒,是被自己人玩死的...10F 02/10 22:23
amaki:socket + semaphore(IPC)沒寫好而已(整篇文章內容)11F 02/10 22:24
xxxg00w0:這東西也是掛在GSN-VPN上嗎12F 02/10 22:24
xxxg00w0:是的話我想到當年某系統後期建構時我們預想到的慘況
henrylinsj:推14F 02/10 22:25
xxxg00w0:不過當時改朝換代 人家光餵飽餓了八年的肚子都來不及了15F 02/10 22:25
xxxg00w0:硬是要 那就不意外了
swkca:偏偏他用的不是Oracle呀....但等級也不差就是了17F 02/10 22:27
JeremyJoung:打字+校稿大概一小時就是18F 02/10 22:29
Subaudition:Oracle這樣威喔? 但是中興大學用Oracle爛到不行耶19F 02/10 22:30
swkca:違建的那個資料量還好啦,公家機關我處理過最多的是檔X局20F 02/10 22:30
david83126:先推再說21F 02/10 22:31
JeremyJoung:不是O 就是M$ 公家也很喜歡用M$ 但是我覺得效能實在鳥22F 02/10 22:31
amaki:再好的機器或DB,synchronizing code寫不好也是變成垃圾的23F 02/10 22:31
swkca:呵~~也不是M$,有點軟在這種大型系統,唉!!24F 02/10 22:32
swkca:看新聞就猜的出來了,跨區處理,就是處理那些同步的事了
JeremyJoung:歐拉摳 真的是超強 怎麼建怎麼快 完全莫名其妙26F 02/10 22:36
swkca:先去查查用的是啥DB,問題在哪裡??塞車不代表是db問題27F 02/10 22:36
oherman:就KMT的酬庸,找小孩玩大車…28F 02/10 22:38
barrylay:誰說是資料庫的問題了,問題還在AP層29F 02/10 22:39
amaki:對啦,也不一定是DB的問題,忘記把tty上限調高也有可能啦...30F 02/10 22:39
amaki:反正code領域,甚麼詭異三小靈異現象都有可能......
ppttpptt:原PO講到一句重點,工程師都是外包商,有的搞不好不是32F 02/10 22:43
swkca:小弟的公司用O其實還沒原PO說的這麼神,要像原PO說的這麼神33F 02/10 22:43
ppttpptt:科班,只上過資策會軟體訓練班而已34F 02/10 22:44
swkca:可靠性還要高的話,要給O的錢,真是嚇人,只好向postgresql35F 02/10 22:44
swkca:靠攏。怎覺的一講到塞車,大家第一印象都是DB....冏~~
ppttpptt:ㄎㄎ,說穿了這種申辦系統,資料量有多大?37F 02/10 22:45
ppttpptt:不是DB問題,這個案子絕對是人謀不臧的問題
swkca:呵~~pptt大,別說這個啦,會讓人誤會要戰血統純正39F 02/10 22:46
swkca:我工作以來,有不少是非科班上過資策會的課程表現又很好的
amaki:說不定只是漏寫一行 fclose(); 就造成讀寫大塞車阿阿阿~~~41F 02/10 22:48
barrylay:原PO我只能說你完全說錯系統的規模了...42F 02/10 22:48
amaki:或是socket裡的檔案操作子忘記關或沒有fflush()就爆炸了43F 02/10 22:49
ppttpptt:S大,沒別的意思,只在凸顯外包再外包的手法很惡劣44F 02/10 22:49
swkca:人謀不臧太嚴重了啦!!設計有暇疪可能性比較大啦!!45F 02/10 22:49
swkca:呵~我了解啦!!外包也是有不錯的,但是在軟體業裡,很多外包
swkca:的心態真的很讓人不敢恭維
JeremyJoung:SQL確實是死結的最常見一種狀況 但卻也是最簡單的48F 02/10 22:56
JeremyJoung:真正要命的問題都是基本框架上的結構瑕疵
smalltwo:個人覺得...是資料沒加index XDDDD50F 02/10 23:00
swkca:系統的複雜度和是否容易實作,我想不是我們在這裡嘴砲說簡單51F 02/10 23:01
swkca:只有真的參加過這個系統的建置,再去考量公司的成本、人員素
JeremyJoung:如果真的是這樣的話 那就可以列入日後的計概教材了XD53F 02/10 23:01
swkca:質,在建置的當下,你就會發現一切都很不簡單54F 02/10 23:02
smalltwo:關聯式資料庫最重要的就是關聯呀..而這個問題的測試不是55F 02/10 23:02
JeremyJoung:其實 最基本而重要的東西 大概沒有普通人想像到56F 02/10 23:03
smalltwo:一兩百筆甚至一兩千筆的資料可以測出來的..至少要過十萬57F 02/10 23:03
smalltwo:測試資料量不夠大不會發現~~但是完全不考慮直接上正式資
JeremyJoung:很單純的就只是SQL表格的外觀而 已對於資料該如何切割59F 02/10 23:04
swkca:smalltwo,我想真正的問題,只要承包公司願意出來說才知道60F 02/10 23:04
smalltwo:料就直接GG了....61F 02/10 23:04
smalltwo:swkca問題怎發生的不難推敲...系統慢但是沒有掛掉表示沒
JeremyJoung:就可以差到100倍的速度 索引的好壞(都有)也可差上百倍63F 02/10 23:05
smalltwo:覆載過大的問題.再來就是早上說的部分縣市無法產出身分字64F 02/10 23:05
swkca:smalltwo,可以去軟體板看,那裡有人在推敲了...65F 02/10 23:06
JeremyJoung:系統能單一寫入 代表"邏輯"是正確的66F 02/10 23:06
smalltwo:號的問題,完全沒法產生就表示產出序號的程序是有問題的67F 02/10 23:06
JeremyJoung:系統會死結代表"資源"是錯誤的 沒本事就別發消費券68F 02/10 23:07
chenda:1萬筆資料8秒鐘寫入一次?半夜三更也有人在交易?69F 02/10 23:07
Bluesky368:push~略懂略懂  連我這種魯蛇建置維護的DB都比這套鬼70F 02/10 23:09
Bluesky368:東西好吧…
luke72:推~72F 02/10 23:11
JeremyJoung:天的問題都是無法跨縣市交易 代表說給外縣市的THREAD73F 02/10 23:12
JeremyJoung:非常的稀少 或是沒有回收 總之 就是容量不足
ian90911:有掛有推75F 02/10 23:14
JeremyJoung:另外還要再補充一下 文化局的資訊組長跟雲端包商76F 02/10 23:18
JeremyJoung:理所當然的是"舊識"
swkca:我想承包商應該是要重金聘請你的78F 02/10 23:19
jeffccc:這家公司就是搞人力外包的阿,整天壓低薪資做成這樣不意外79F 02/10 23:44
rehtra:109??80F 02/10 23:46
HYL: 我在猜該不會有人用了 long transaction and table lock81F 02/10 23:59
jack7217:文化部資訊處王姓處長嗎?82F 02/11 08:26
jack7217:把下屬單位預算全收上去,每個館放一個駐點打雜小弟(連
jack7217:綠島人權館籌備處都有)高層真的很會亂搞耶
kungfutofu:超強85F 02/11 09:23
poiu1234:不愧是建民 不懂也能亂猜測86F 02/11 11:11
kuninaka:一秒五萬?87F 02/11 12:34
billybbb:查無不法謝謝指教88F 02/11 14:51
samonella:厲害!89F 02/11 18:14
aj6617:戶役政系統的資料估計好歹是10TB左右 也不是一天24小時都90F 02/11 20:50
aj6617:在交易 用informix也是舊聞了
amigo0721:還在18%92F 02/11 21:01

--
※ 看板: Gossiping 文章推薦值: -1 目前人氣: 0 累積人氣: 2436 
分享網址: 複製 已複製
1樓 時間: 2014-02-12 23:16:40 (台灣)
  02-12 23:16 TW
疑~18%有取消了嗎?沒取消當然繼續講啊!!
2樓 時間: 2014-02-12 23:56:50 (台灣)
  02-12 23:56 TW
先來下個預告:調查完畢的結果, 程序上有瑕疵, 但是一切合法
3樓 時間: 2014-02-13 00:39:57 (台灣)
  02-13 00:39 TW
20幾億的案子,找幾個資工碩士40K爆肝即可
4樓 時間: 2014-02-13 11:40:50 (台灣)
  02-13 11:40 TW
中山會報~~~主席:宜樺~~叫眾科長快抽生死籤~~會給他們安家費~~退朝~
r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇