Django-model进阶
知識預覽
- QuerySet
- 中介模型
- 查詢優化
- extra
- 整體插入
QuerySet
可切片
使用Python 的切片語法來限制查詢集記錄的數目?。它等同于SQL 的LIMIT?和OFFSET?子句。
| 1 | >>> Entry.objects.all()[:5]????? # (LIMIT?5) |
不支持負的索引(例如Entry.objects.all()[-1])。通常,查詢集?的切片返回一個新的查詢集?—— 它不會執行查詢。
可迭代
articleList=models.Article.objects.all()for article in articleList:print(article.title)惰性查詢
查詢集?是惰性執行的 —— 創建查詢集不會帶來任何數據庫的訪問。你可以將過濾器保持一整天,直到查詢集?需要求值時,Django 才會真正運行這個查詢。
| 1 2 3 4 5 6 | queryResult=models.Article.objects.all() #?not?hits?database print(queryResult) # hits?database for?article?in?queryResult: ????print(article.title)??? # hits?database |
?一般來說,只有在“請求”查詢集?的結果時才會到數據庫中去獲取它們。當你確實需要結果時,查詢集?通過訪問數據庫來求值。?關于求值發生的準確時間,參見何時計算查詢集。
緩存機制
每個查詢集都包含一個緩存來最小化對數據庫的訪問。理解它是如何工作的將讓你編寫最高效的代碼。
在一個新創建的查詢集中,緩存為空。首次對查詢集進行求值 —— 同時發生數據庫查詢 ——Django 將保存查詢的結果到查詢集的緩存中并返回明確請求的結果(例如,如果正在迭代查詢集,則返回下一個結果)。接下來對該查詢集?的求值將重用緩存的結果。
請牢記這個緩存行為,因為對查詢集使用不當的話,它會坑你的。例如,下面的語句創建兩個查詢集,對它們求值,然后扔掉它們:
| 1 2 | print([a.title?for?a?in?models.Article.objects.all()]) print([a.create_time?for?a?in?models.Article.objects.all()]) |
這意味著相同的數據庫查詢將執行兩次,顯然倍增了你的數據庫負載。同時,還有可能兩個結果列表并不包含相同的數據庫記錄,因為在兩次請求期間有可能有Article被添加進來或刪除掉。為了避免這個問題,只需保存查詢集并重新使用它:
| 1 2 3 | queryResult=models.Article.objects.all() print([a.title?for?a?in?queryResult]) print([a.create_time?for?a?in?queryResult]) |
何時查詢集不會被緩存?
查詢集不會永遠緩存它們的結果。當只對查詢集的部分進行求值時會檢查緩存, 如果這個部分不在緩存中,那么接下來查詢返回的記錄都將不會被緩存。所以,這意味著使用切片或索引來限制查詢集將不會填充緩存。
例如,重復獲取查詢集對象中一個特定的索引將每次都查詢數據庫:
| 1 2 3 | >>> queryset?=?Entry.objects.all() >>>?print?queryset[5]?# Queries the database >>>?print?queryset[5]?# Queries the database again |
然而,如果已經對全部查詢集求值過,則將檢查緩存:
| 1 2 3 4 | >>> queryset?=?Entry.objects.all() >>> [entry?for?entry?in?queryset]?# Queries the database >>>?print?queryset[5]?# Uses cache >>>?print?queryset[5]?# Uses cache |
下面是一些其它例子,它們會使得全部的查詢集被求值并填充到緩存中:
| 1 2 3 4 | >>> [entry?for?entry?in?queryset] >>>?bool(queryset) >>> entry?in?queryset >>>?list(queryset) |
注:簡單地打印查詢集不會填充緩存。
+ View Codeexists()與iterator()方法
exists:
簡單的使用if語句進行判斷也會完全執行整個queryset并且把數據放入cache,雖然你并不需要這些 數據!為了避免這個,可以用exists()方法來檢查是否有數據:
if queryResult.exists():#SELECT (1) AS "a" FROM "blog_article" LIMIT 1; args=()print("exists...")iterator:
當queryset非常巨大時,cache會成為問題。
處理成千上萬的記錄時,將它們一次裝入內存是很浪費的。更糟糕的是,巨大的queryset可能會鎖住系統 進程,讓你的程序瀕臨崩潰。要避免在遍歷數據的同時產生queryset cache,可以使用iterator()方法 來獲取數據,處理完數據就將其丟棄。
objs = Book.objects.all().iterator() # iterator()可以一次只從數據庫獲取少量數據,這樣可以節省內存 for obj in objs:print(obj.title) #BUT,再次遍歷沒有打印,因為迭代器已經在上一次遍歷(next)到最后一次了,沒得遍歷了 for obj in objs:print(obj.title)當然,使用iterator()方法來防止生成cache,意味著遍歷同一個queryset時會重復執行查詢。所以使 #用iterator()的時候要當心,確保你的代碼在操作一個大的queryset時沒有重復執行查詢。
總結:
queryset的cache是用于減少程序對數據庫的查詢,在通常的使用下會保證只有在需要的時候才會查詢數據庫。 使用exists()和iterator()方法可以優化程序對內存的使用。不過,由于它們并不會生成queryset cache,可能 會造成額外的數據庫查詢。
回到頂部中介模型
處理類似搭配 pizza 和 topping 這樣簡單的多對多關系時,使用標準的ManyToManyField? 就可以了。但是,有時你可能需要關聯數據到兩個模型之間的關系上。
例如,有這樣一個應用,它記錄音樂家所屬的音樂小組。我們可以用一個ManyToManyField?表示小組和成員之間的多對多關系。但是,有時你可能想知道更多成員關系的細節,比如成員是何時加入小組的。
對于這些情況,Django 允許你指定一個中介模型來定義多對多關系。?你可以將其他字段放在中介模型里面。源模型的ManyToManyField?字段將使用through?參數指向中介模型。對于上面的音樂小組的例子,代碼如下:
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 | from?django.db?import?models class?Person(models.Model): ????name?=?models.CharField(max_length=128) ????def?__str__(self):??????????????# __unicode__ on Python 2 ????????return?self.name class?Group(models.Model): ????name?=?models.CharField(max_length=128) ????members?=?models.ManyToManyField(Person, through='Membership') ????def?__str__(self):??????????????# __unicode__ on Python 2 ????????return?self.name class?Membership(models.Model): ????person?=?models.ForeignKey(Person) ????group?=?models.ForeignKey(Group) ????date_joined?=?models.DateField() ????invite_reason?=?models.CharField(max_length=64) |
既然你已經設置好ManyToManyField?來使用中介模型(在這個例子中就是Membership),接下來你要開始創建多對多關系。你要做的就是創建中介模型的實例:
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 | >>> ringo?=?Person.objects.create(name="Ringo Starr") >>> paul?=?Person.objects.create(name="Paul McCartney") >>> beatles?=?Group.objects.create(name="The Beatles") >>> m1?=?Membership(person=ringo, group=beatles, ...???? date_joined=date(1962,?8,?16), ...???? invite_reason="Needed a new drummer.") >>> m1.save() >>> beatles.members.all() [<Person: Ringo Starr>] >>> ringo.group_set.all() [<Group: The Beatles>] >>> m2?=?Membership.objects.create(person=paul, group=beatles, ...???? date_joined=date(1960,?8,?1), ...???? invite_reason="Wanted to form a band.") >>> beatles.members.all() [<Person: Ringo Starr>, <Person: Paul McCartney>] |
與普通的多對多字段不同,你不能使用add、?create和賦值語句(比如,beatles.members?=?[...])來創建關系:
| 1 2 3 4 5 6 | # THIS WILL NOT WORK >>> beatles.members.add(john) # NEITHER WILL THIS >>> beatles.members.create(name="George Harrison") # AND NEITHER WILL THIS >>> beatles.members?=?[john, paul, ringo, george] |
為什么不能這樣做??這是因為你不能只創建?Person和?Group之間的關聯關系,你還要指定?Membership模型中所需要的所有信息;而簡單的add、create?和賦值語句是做不到這一點的。所以它們不能在使用中介模型的多對多關系中使用。此時,唯一的辦法就是創建中介模型的實例。
?remove()方法被禁用也是出于同樣的原因。但是clear()?方法卻是可用的。它可以清空某個實例所有的多對多關系:
| 1 2 3 4 5 | >>>?# Beatles have broken up >>> beatles.members.clear() >>>?# Note that this deletes the intermediate model instances >>> Membership.objects.all() [] |
查詢優化
表數據
+ View Codeselect_related
簡單使用
對于一對一字段(OneToOneField)和外鍵字段(ForeignKey),可以使用select_related 來對QuerySet進行優化。
select_related?返回一個QuerySet,當執行它的查詢時它沿著外鍵關系查詢關聯的對象的數據。它會生成一個復雜的查詢并引起性能的損耗,但是在以后使用外鍵關系時將不需要數據庫查詢。
簡單說,在對QuerySet使用select_related()函數后,Django會獲取相應外鍵對應的對象,從而在之后需要的時候不必再查詢數據庫了。
下面的例子解釋了普通查詢和select_related()?查詢的區別。
查詢id=2的文章的分類名稱,下面是一個標準的查詢:
| 1 2 3 4 5 | # Hits the database. article=models.Article.objects.get(nid=2) # Hits the database again to get the related Blog object. print(article.category.title) |
?如果我們使用select_related()函數:
| 1 2 3 4 5 6 7 | articleList=models.Article.objects.select_related("category").all() ????for?article_obj?in?articleList: ????????#? Doesn't hit the?database, because article_obj.category ????????#? has been prepopulated?in?the previous query. ????????print(article_obj.category.title) |
多外鍵查詢
這是針對category的外鍵查詢,如果是另外一個外鍵呢?讓我們一起看下:
| 1 2 | article=models.Article.objects.select_related("category").get(nid=1) print(article.articledetail) |
?觀察logging結果,發現依然需要查詢兩次,所以需要改為:
| 1 2 | article=models.Article.objects.select_related("category","articledetail").get(nid=1) print(article.articledetail) |
?或者:
article=models.Article.objects.select_related("category")
.select_related("articledetail")
.get(nid=1) # django 1.7 支持鏈式操作 print(article.articledetail)
?
+ View Code深層查詢
| 1 2 3 4 | # 查詢id=1的文章的用戶姓名 ????article=models.Article.objects.select_related("blog").get(nid=1) ????print(article.blog.user.username) |
?依然需要查詢兩次:
+ View Code?這是因為第一次查詢沒有query到userInfo表,所以,修改如下:
| 1 2 | article=models.Article.objects.select_related("blog__user").get(nid=1) print(article.blog.user.username) |
總結
prefetch_related()
對于多對多字段(ManyToManyField)和一對多字段,可以使用prefetch_related()來進行優化。
prefetch_related()和select_related()的設計目的很相似,都是為了減少SQL查詢的數量,但是實現的方式不一樣。后者是通過JOIN語句,在SQL查詢內解決問題。但是對于多對多關系,使用SQL語句解決就顯得有些不太明智,因為JOIN得到的表將會很長,會導致SQL語句運行時間的增加和內存占用的增加。若有n個對象,每個對象的多對多字段對應Mi條,就會生成Σ(n)Mi 行的結果表。
prefetch_related()的解決方法是,分別查詢每個表,然后用Python處理他們之間的關系。
| 1 2 3 4 5 | # 查詢所有文章關聯的所有標簽 ????article_obj=models.Article.objects.all() ????for?i?in?article_obj: ????????print(i.tags.all())? #4篇文章: hits?database?5 |
改為prefetch_related:
| 1 2 3 4 5 | # 查詢所有文章關聯的所有標簽 ????article_obj=models.Article.objects.prefetch_related("tags").all() ????for?i?in?article_obj: ????????print(i.tags.all())? #4篇文章: hits?database?2 |
extra
extra(select=None, where=None, params=None,tables=None, order_by=None, select_params=None)
有些情況下,Django的查詢語法難以簡單的表達復雜的?WHERE?子句,對于這種情況, Django 提供了?extra()?QuerySet修改機制 — 它能在?QuerySet生成的SQL從句中注入新子句
extra可以指定一個或多個?參數,例如?select,?where?or?tables.?這些參數都不是必須的,但是你至少要使用一個!要注意這些額外的方式對不同的數據庫引擎可能存在移植性問題.(因為你在顯式的書寫SQL語句),除非萬不得已,盡量避免這樣做
參數之select
The?select?參數可以讓你在?SELECT?從句中添加其他字段信息,它應該是一個字典,存放著屬性名到 SQL 從句的映射。
queryResult=models.Article.objects.extra(select={'is_recent': "create_time > '2017-09-05'"})
結果集中每個 Entry 對象都有一個額外的屬性is_recent, 它是一個布爾值,表示 Article對象的create_time 是否晚于2017-09-05.
練習:
# in sqlite:article_obj=models.Article.objects.filter(nid=1)
.extra(select={"standard_time":"strftime('%%Y-%%m-%%d',create_time)"})
.values("standard_time","nid","title")print(article_obj)# <QuerySet [{'title': 'MongoDb 入門教程', 'standard_time': '2017-09-03', 'nid': 1}]>
參數之where?/?tables
您可以使用where定義顯式SQL?WHERE子句 - 也許執行非顯式連接。您可以使用tables手動將表添加到SQL?FROM子句。
where和tables都接受字符串列表。所有where參數均為“與”任何其他搜索條件。
舉例來講:
queryResult=models.Article.objects.extra(where=['nid in (1,3) OR title like "py%" ','nid>2']) 回到頂部
整體插入
創建對象時,盡可能使用bulk_create()來減少SQL查詢的數量。例如:
Entry.objects.bulk_create([Entry(headline="Python 3.0 Released"),Entry(headline="Python 3.1 Planned") ])...更優于:
Entry.objects.create(headline="Python 3.0 Released") Entry.objects.create(headline="Python 3.1 Planned")注意該方法有很多注意事項,所以確保它適用于你的情況。
這也可以用在ManyToManyFields中,所以:
my_band.members.add(me, my_friend)...更優于:
my_band.members.add(me) my_band.members.add(my_friend)...其中Bands和Artists具有多對多關聯。
轉載于:https://www.cnblogs.com/wangmo/p/8360397.html
總結
以上是生活随笔為你收集整理的Django-model进阶的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 浦发银行中午休息吗?下午什么时候上班?
- 下一篇: Execution Order of E