我正在寻找有关如何批量更新记录多达250,000的Oralce SQL表的一些帮助。
基本上,我有一个传递给函数的键列表,然后该键需要更新Oracle表。该列表最多可以包含250,000行,我可以使用普通的update语句或使用“ executemany”来执行此操作,但是两种方法的效率都太低,因此我需要进行批量更新,但是我不熟悉如何执行此操作。我已经搜索了几个小时,但我无法弄清楚!
todays_date = datetime.now().strftime("%d-%b-%Y")
status = str("DONE")
try:
bind_values = {"status" : str(status),
"todays_date" : todays_date,
"keys_list" : list_of_keys}
query = ("""FORALL i IN :keys_list.FIRST .. :keys_list.LAST
UPDATE TABLE_NAME
SET COLUMN1 = :status,
UPDATE_DATE = :todays_date
WHERE KEY = :i""")
cursor.execute(query, bind_values)
conn.commit()
self.CloseConnection(conn)
except cx_Oracle.DatabaseError, e:
error, = e.args
print(" >> Database error: %s" % format(e))
conn.rollback()
return False
任何帮助,将不胜感激。
UPDATE @abarnert-非常感谢您的建议,您肯定会在这里遇到问题,我设法做到了这一点
cursor.execute("""CREATE GLOBAL TEMPORARY TABLE TodaysKeys
(key STRING PRIMARY KEY)
on commit delete rows
AS (INSERT INTO TodaysKeys VALUES (:i))
UPDATE TABLE_NAME
SET COLUMN1 = :status,
UPDATE_DATE = :todays_date
WHERE KEY IN (SELECT * FROM TodaysKeys)
TABLE TodaysKeys""", i=keys_list,
status=str(updatestatus),
todays_date=todays_date)
但是现在我得到的只是一个错误:“ ORA-01036:非法的变量名称/编号”。我敢肯定这确实很明显,但是我已经检查并重新检查了一下,但终生看不到我要去哪里错了!
从对这种方法的所有研究来看,这似乎是正确的方法……如果我能使它进行测试的话!请帮忙。
您需要找到一种在250K行中执行1次运算的方法,而不是在250K行中进行1行单独的运算,因为显然,给定关于数据模型设计的某些知识(我猜您既无法控制,也无法理解),后者只是一种方法太慢了。
那么,你该怎么做呢?
一种方法是创建一个非常简单的临时表,将今天的所有键转储到该表中(使用executemany
–应该更快,或者,如果使用-则至少要简单得多LOAD DATA
),然后执行一个UPDATE
引用其中的键临时表。像这样(伪代码,基于使用sqlite3进行测试,然后从距离内存转换为Oracle…):
CREATE TEMPORARY TABLE TodaysKeys (key INT PRIMARY KEY)
INSERT INTO TodaysKeys VALUES (:i)
UPDATE TABLE_NAME
SET COLUMN1 = :status,
UPDATE_DATE = :todays_date
WHERE KEY IN (SELECT * FROM TodaysKeys)
DROP TABLE TodaysKeys
如果这很慢,则意味着您在该KEY
列上没有索引,在这种情况下……实际上,没有解决该问题的方法是无法加快速度的。
本文收集自互联网,转载请注明来源。
如有侵权,请联系 [email protected] 删除。
我来说两句