<em>Mac</em>Book项目 2009年学校开始实施<em>Mac</em>Book项目,所有师生配备一本<em>Mac</em>Book,并同步更新了校园无线网络。学校每周进行电脑技术更新,每月发送技术支持资料,极大改变了教学及学习方式。因此2011
2021-06-01 09:32:01
近期遇到一個紀錄檔表記錄了幾年資料,資料量較大(幾億資料),導致查詢等操作較慢,為了提高效率,決定刪除部分歷史資料,想了三種方法如下:
通用步驟(每種方法之前先執行以下備份指令碼):
1、備份 2021年之前資料
create table table_log_b2020 as select * from table_log a where a.logtime<date'2021-1-1';
2、備份2021年資料
create table table_log_2021 as select * from table_log a where a.logtime>=date'2021-1-1';
1、drop table
drop table table_log
2、create table table_log
3、插入2021年資料
insert into table_log select * from table_log_b2021;
1、先去掉表索引,因為索引可能會影響刪除效率
2、批次執行刪除語句,也可以以存過方式直接執行,按照數量刪除
delete from table_log a where a.logtime<date'2021-1-1' and rownum<5000000
每500萬一次,沒去索引之前大約耗時85秒,刪掉索引之後大約耗時50
1、truncate table
truncate table table_log 耗時0.5s
2、插入2021年資料
insert into table_log select * from table_log_b2021; 耗時 0.095s
第一種涉及到刪表結構,公司相關規定不可這麼做,第二種效率較為低
綜合考慮使用了第三種,效率較為可觀 ,秒秒鐘把資料乾乾淨。
#ORACLE #SQL #億級資料量清理優化
說到刪除資料,想到的
確實對於清理資料量比較少的表來說,DELETE是簡單直接的方法,但是對於上億條資料的表來說,這種方式肯定是行不通的,會造成undo表空間的不足。
但是我們這裡做的是刪除表中的部分資料,而不是清空表資料,所以也不能直接truncate,既然不能全部truncate,我們一開始想到的方式是先建立一個臨時表,把需要保留的資料拿出來,然後清空表資料只會,再把需要保留的資料放回去,最後刪除臨時表,這種方式就不會造成undo表空間不足了,但是這樣效率很慢,時間很長,從二十億的資料量中刪除一半左右的資料需要八個小時,當然這個和伺服器的效能等硬體也有關係,如下如所示的SQL,雖然能夠刪除成功,但是速度很慢。
CREATE TABLE SYSADM.PS_GPCN_PAYEE_TBL2022 AS SELECT * FROM SYSADM.PS_GPCN_PAYEE_TBL WHERE EMPLID IN ( SELECT EMPLID3 FROM PS_C_PAY_TBL)/ COMMIT/ TRUNCATE TABLE SYSADM.PS_GPCN_PAYEE_TBL/ INSERT INTO SYSADM.PS_GPCN_PAYEE_TBL NOLOGGING SELECT * FROM SYSADM.PS_GPCN_PAYEE_TBL2022/ COMMIT/ DROP TABLE SYSADM.PS_GPCN_PAYEE_TBL2022/ COMMIT/
直接把表幹掉,drop的速度要比truncate更快,如果drop掉表之後再create,表還不會生成索引,所以如果採用drop的方式,就還要建立索引,這種方式只需要一個小時左右的時間
CREATE TABLE SYSADM.PS_GP_ITER_TRGR2022 AS SELECT * FROM SYSADM.PS_GP_ITER_TRGR WHERE EMPLID IN ( SELECT EMPLID3 FROM PS_C_PAY_TBL)/ COMMIT/ DROP TABLE SYSADM.PS_GP_ITER_TRGR/ CREATE TABLE SYSADM.PS_GP_ITER_TRGR AS SELECT * FROM SYSADM.PS_GP_ITER_TRGR2022 / CREATE INDEX PSAGP_ITER_TRGR ON PS_GP_ITER_TRGR (CAL_RUN_ID , EMPLID , ITER_TRGR_STATUS) tablespace PSINDEX pctfree 10 initrans 2 maxtrans 255 storage ( initial 48K NEXT 112K minextents 1 maxextents unlimited )/ CREATE INDEX PS_GP_ITER_TRGR ON PS_GP_ITER_TRGR (EMPLID , CAL_RUN_ID , ITER_TRGR_STATUS) tablespace PSINDEX pctfree 10 initrans 2 maxtrans 255 storage ( initial 80K NEXT 112K minextents 1 maxextents unlimited )/ DROP TABLE SYSADM.PS_GP_ITER_TRGR2022/ COMMIT/
以上為個人經驗,希望能給大家一個參考,也希望大家多多支援it145.com。
相關文章
<em>Mac</em>Book项目 2009年学校开始实施<em>Mac</em>Book项目,所有师生配备一本<em>Mac</em>Book,并同步更新了校园无线网络。学校每周进行电脑技术更新,每月发送技术支持资料,极大改变了教学及学习方式。因此2011
2021-06-01 09:32:01
综合看Anker超能充系列的性价比很高,并且与不仅和iPhone12/苹果<em>Mac</em>Book很配,而且适合多设备充电需求的日常使用或差旅场景,不管是安卓还是Switch同样也能用得上它,希望这次分享能给准备购入充电器的小伙伴们有所
2021-06-01 09:31:42
除了L4WUDU与吴亦凡已经多次共事,成为了明面上的厂牌成员,吴亦凡还曾带领20XXCLUB全队参加2020年的一场音乐节,这也是20XXCLUB首次全员合照,王嗣尧Turbo、陈彦希Regi、<em>Mac</em> Ova Seas、林渝植等人全部出场。然而让
2021-06-01 09:31:34
目前应用IPFS的机构:1 谷歌<em>浏览器</em>支持IPFS分布式协议 2 万维网 (历史档案博物馆)数据库 3 火狐<em>浏览器</em>支持 IPFS分布式协议 4 EOS 等数字货币数据存储 5 美国国会图书馆,历史资料永久保存在 IPFS 6 加
2021-06-01 09:31:24
开拓者的车机是兼容苹果和<em>安卓</em>,虽然我不怎么用,但确实兼顾了我家人的很多需求:副驾的门板还配有解锁开关,有的时候老婆开车,下车的时候偶尔会忘记解锁,我在副驾驶可以自己开门:第二排设计很好,不仅配置了一个很大的
2021-06-01 09:30:48
不仅是<em>安卓</em>手机,苹果手机的降价力度也是前所未有了,iPhone12也“跳水价”了,发布价是6799元,如今已经跌至5308元,降价幅度超过1400元,最新定价确认了。iPhone12是苹果首款5G手机,同时也是全球首款5nm芯片的智能机,它
2021-06-01 09:30:45