QuerySet

可切片

使用Python 的切片语法来限制查询集记录的数目 。它等同于SQL 的LIMIT 和OFFSET 子句。

  1. >>> Entry.objects.all()[:5] # (LIMIT 5)
  1. Entry.objects.all()[5:10] # (OFFSET 5 LIMIT 5)

不支持负的索引(例如Entry.objects.all()[-1])。通常,查询集 的切片返回一个新的查询集 —— 它不会执行查询。

可迭代

  1. articleList=models.Article.objects.all()
  2.  
  3. for article in articleList:
  4. print(article.title)

惰性查询

查询集 是惰性执行的 —— 创建查询集不会带来任何数据库的访问。你可以将过滤器保持一整天,直到查询集 需要求值时,Django 才会真正运行这个查询。

  1. queryResult=models.Article.objects.all() # not hits database
  2.  
  3. print(queryResult) # hits database
  4.  
  5. for article in queryResult:
  6. print(article.title) # hits database

一般来说,只有在“请求”查询集 的结果时才会到数据库中去获取它们。当你确实需要结果时,查询集 通过访问数据库来求值。 关于求值发生的准确时间,参见何时计算查询集

缓存机制

每个查询集都包含一个缓存来最小化对数据库的访问。理解它是如何工作的将让你编写最高效的代码。

在一个新创建的查询集中,缓存为空。首次对查询集进行求值 —— 同时发生数据库查询 ——Django 将保存查询的结果到查询集的缓存中并返回明确请求的结果(例如,如果正在迭代查询集,则返回下一个结果)。接下来对该查询集 的求值将重用缓存的结果。

请牢记这个缓存行为,因为对查询集使用不当的话,它会坑你的。例如,下面的语句创建两个查询集,对它们求值,然后扔掉它们:

  1. print([a.title for a in models.Article.objects.all()])
  2. print([a.create_time for a in models.Article.objects.all()])

这意味着相同的数据库查询将执行两次,显然倍增了你的数据库负载。同时,还有可能两个结果列表并不包含相同的数据库记录,因为在两次请求期间有可能有Article被添加进来或删除掉。为了避免这个问题,只需保存查询集并重新使用它:

  1. queryResult=models.Article.objects.all()
  2. print([a.title for a in queryResult])
  3. print([a.create_time for a in queryResult])

何时查询集不会被缓存?

查询集不会永远缓存它们的结果。当只对查询集的部分进行求值时会检查缓存, 如果这个部分不在缓存中,那么接下来查询返回的记录都将不会被缓存。所以,这意味着使用切片或索引来限制查询集将不会填充缓存。

例如,重复获取查询集对象中一个特定的索引将每次都查询数据库:

  1. >>> queryset = Entry.objects.all()
  2. >>> print queryset[5] # Queries the database
  3. >>> print queryset[5] # Queries the database again

然而,如果已经对全部查询集求值过,则将检查缓存:

  1. >>> queryset = Entry.objects.all()
  2. >>> [entry for entry in queryset] # Queries the database
  3. >>> print queryset[5] # Uses cache
  4. >>> print queryset[5] # Uses cache

下面是一些其它例子,它们会使得全部的查询集被求值并填充到缓存中:

  1. >>> [entry for entry in queryset]
  2. >>> bool(queryset)
  3. >>> entry in queryset
  4. >>> list(queryset)

注:简单地打印查询集不会填充缓存。

  1. queryResult=models.Article.objects.all()
  2. print(queryResult) # hits database
  3. print(queryResult) # hits database

exists()与iterator()方法

exists:

简单的使用if语句进行判断也会完全执行整个queryset并且把数据放入cache,虽然你并不需要这些 数据!为了避免这个,可以用exists()方法来检查是否有数据:

  1. if queryResult.exists():
  2. #SELECT (1) AS "a" FROM "blog_article" LIMIT 1; args=()
  3. print("exists...")

iterator:

当queryset非常巨大时,cache会成为问题。

处理成千上万的记录时,将它们一次装入内存是很浪费的。更糟糕的是,巨大的queryset可能会锁住系统 进程,让你的程序濒临崩溃。要避免在遍历数据的同时产生queryset cache,可以使用iterator()方法 来获取数据,处理完数据就将其丢弃。

  1. objs = Book.objects.all().iterator()
  2. # iterator()可以一次只从数据库获取少量数据,这样可以节省内存
  3. for obj in objs:
  4. print(obj.title)
  5. #BUT,再次遍历没有打印,因为迭代器已经在上一次遍历(next)到最后一次了,没得遍历了
  6. for obj in objs:
  7. print(obj.title)

当然,使用iterator()方法来防止生成cache,意味着遍历同一个queryset时会重复执行查询。所以使 #用iterator()的时候要当心,确保你的代码在操作一个大的queryset时没有重复执行查询。

总结:

queryset的cache是用于减少程序对数据库的查询,在通常的使用下会保证只有在需要的时候才会查询数据库。 使用exists()和iterator()方法可以优化程序对内存的使用。不过,由于它们并不会生成queryset cache,可能 会造成额外的数据库查询。 

中介模型

处理类似搭配 pizza 和 topping 这样简单的多对多关系时,使用标准的ManyToManyField  就可以了。但是,有时你可能需要关联数据到两个模型之间的关系上。

例如,有这样一个应用,它记录音乐家所属的音乐小组。我们可以用一个ManyToManyField 表示小组和成员之间的多对多关系。但是,有时你可能想知道更多成员关系的细节,比如成员是何时加入小组的。

对于这些情况,Django 允许你指定一个中介模型来定义多对多关系。 你可以将其他字段放在中介模型里面。源模型的ManyToManyField 字段将使用through 参数指向中介模型。对于上面的音乐小组的例子,代码如下:

  1. from django.db import models
  2.  
  3. class Person(models.Model):
  4. name = models.CharField(max_length=128)
  5.  
  6. def __str__(self): # __unicode__ on Python 2
  7. return self.name
  8.  
  9. class Group(models.Model):
  10. name = models.CharField(max_length=128)
  11. members = models.ManyToManyField(Person, through='Membership')
  12.  
  13. def __str__(self): # __unicode__ on Python 2
  14. return self.name
  15.  
  16. class Membership(models.Model):
  17. person = models.ForeignKey(Person)
  18. group = models.ForeignKey(Group)
  19. date_joined = models.DateField()
  20. invite_reason = models.CharField(max_length=64)

实际上就是自己定义第三张表,保证灵活度的同时又可以使用queryset的双下划线语法。

  1. tags = models.ManyToManyField(
  2. to="Tag",
  3. through='Article2Tag',
  4. through_fields=('article', 'tag'),
  5. )
  6.  
  7. def __str__(self):
  8. return self.title
  9.  
  10. class ArticleDetail(models.Model):
  11. """
  12. 文章详细表
  13. """
  14. nid = models.AutoField(primary_key=True)
  15. content = models.TextField()
  16. article = models.OneToOneField(to='Article', to_field='nid')

另一种写法

既然你已经设置好ManyToManyField 来使用中介模型(在这个例子中就是Membership),接下来你要开始创建多对多关系。你要做的就是创建中介模型的实例:

  1. >>> ringo = Person.objects.create(name="Ringo Starr")
  2. >>> paul = Person.objects.create(name="Paul McCartney")
  3. >>> beatles = Group.objects.create(name="The Beatles")
  4. >>> m1 = Membership(person=ringo, group=beatles,
  5. ... date_joined=date(1962, 8, 16),
  6. ... invite_reason="Needed a new drummer.")
  7. >>> m1.save()
  8. >>> beatles.members.all()
  9. [<Person: Ringo Starr>]
  10. >>> ringo.group_set.all()
  11. [<Group: The Beatles>]
  12. >>> m2 = Membership.objects.create(person=paul, group=beatles,
  13. ... date_joined=date(1960, 8, 1),
  14. ... invite_reason="Wanted to form a band.")
  15. >>> beatles.members.all()
  16. [<Person: Ringo Starr>, <Person: Paul McCartney>]

与普通的多对多字段不同,你不能使用add、 create和赋值语句(比如,beatles.members = [...])来创建关系:

  1. # THIS WILL NOT WORK
  2. >>> beatles.members.add(john)
  3. # NEITHER WILL THIS
  4. >>> beatles.members.create(name="George Harrison")
  5. # AND NEITHER WILL THIS
  6. >>> beatles.members = [john, paul, ringo, george]

为什么不能这样做? 这是因为你不能只创建 Person和 Group之间的关联关系,你还要指定 Membership模型中所需要的所有信息;而简单的addcreate 和赋值语句是做不到这一点的。所以它们不能在使用中介模型的多对多关系中使用。此时,唯一的办法就是创建中介模型的实例。

remove()方法被禁用也是出于同样的原因。但是clear() 方法却是可用的。它可以清空某个实例所有的多对多关系:

  1. >>> # Beatles have broken up
  2. >>> beatles.members.clear()
  3. >>> # Note that this deletes the intermediate model instances
  4. >>> Membership.objects.all()
  5. []

查询优化

表数据

  1. class UserInfo(AbstractUser):
  2. """
  3. 用户信息
  4. """
  5. nid = models.BigAutoField(primary_key=True)
  6. nickname = models.CharField(verbose_name='昵称', max_length=32)
  7. telephone = models.CharField(max_length=11, blank=True, null=True, unique=True, verbose_name='手机号码')
  8. avatar = models.FileField(verbose_name='头像',upload_to = 'avatar/',default="/avatar/default.png")
  9. create_time = models.DateTimeField(verbose_name='创建时间', auto_now_add=True)
  10.  
  11. fans = models.ManyToManyField(verbose_name='粉丝们',
  12. to='UserInfo',
  13. through='UserFans',
  14. related_name='f',
  15. through_fields=('user', 'follower'))
  16.  
  17. def __str__(self):
  18. return self.username
  19.  
  20. class UserFans(models.Model):
  21. """
  22. 互粉关系表
  23. """
  24. nid = models.AutoField(primary_key=True)
  25. user = models.ForeignKey(verbose_name='博主', to='UserInfo', to_field='nid', related_name='users')
  26. follower = models.ForeignKey(verbose_name='粉丝', to='UserInfo', to_field='nid', related_name='followers')
  27.  
  28. class Blog(models.Model):
  29.  
  30. """
  31. 博客信息
  32. """
  33. nid = models.BigAutoField(primary_key=True)
  34. title = models.CharField(verbose_name='个人博客标题', max_length=64)
  35. site = models.CharField(verbose_name='个人博客后缀', max_length=32, unique=True)
  36. theme = models.CharField(verbose_name='博客主题', max_length=32)
  37. user = models.OneToOneField(to='UserInfo', to_field='nid')
  38. def __str__(self):
  39. return self.title
  40.  
  41. class Category(models.Model):
  42. """
  43. 博主个人文章分类表
  44. """
  45. nid = models.AutoField(primary_key=True)
  46. title = models.CharField(verbose_name='分类标题', max_length=32)
  47.  
  48. blog = models.ForeignKey(verbose_name='所属博客', to='Blog', to_field='nid')
  49.  
  50. class Article(models.Model):
  51.  
  52. nid = models.BigAutoField(primary_key=True)
  53. title = models.CharField(max_length=50, verbose_name='文章标题')
  54. desc = models.CharField(max_length=255, verbose_name='文章描述')
  55. read_count = models.IntegerField(default=0)
  56. comment_count= models.IntegerField(default=0)
  57. up_count = models.IntegerField(default=0)
  58. down_count = models.IntegerField(default=0)
  59. category = models.ForeignKey(verbose_name='文章类型', to='Category', to_field='nid', null=True)
  60. create_time = models.DateField(verbose_name='创建时间')
  61. blog = models.ForeignKey(verbose_name='所属博客', to='Blog', to_field='nid')
  62. tags = models.ManyToManyField(
  63. to="Tag",
  64. through='Article2Tag',
  65. through_fields=('article', 'tag'),
  66. )
  67.  
  68. class ArticleDetail(models.Model):
  69. """
  70. 文章详细表
  71. """
  72. nid = models.AutoField(primary_key=True)
  73. content = models.TextField(verbose_name='文章内容', )
  74.  
  75. article = models.OneToOneField(verbose_name='所属文章', to='Article', to_field='nid')
  76.  
  77. class Comment(models.Model):
  78. """
  79. 评论表
  80. """
  81. nid = models.BigAutoField(primary_key=True)
  82. article = models.ForeignKey(verbose_name='评论文章', to='Article', to_field='nid')
  83. content = models.CharField(verbose_name='评论内容', max_length=255)
  84. create_time = models.DateTimeField(verbose_name='创建时间', auto_now_add=True)
  85.  
  86. parent_comment = models.ForeignKey('self', blank=True, null=True, verbose_name='父级评论')
  87. user = models.ForeignKey(verbose_name='评论者', to='UserInfo', to_field='nid')
  88.  
  89. up_count = models.IntegerField(default=0)
  90.  
  91. def __str__(self):
  92. return self.content
  93.  
  94. class ArticleUpDown(models.Model):
  95. """
  96. 点赞表
  97. """
  98. nid = models.AutoField(primary_key=True)
  99. user = models.ForeignKey('UserInfo', null=True)
  100. article = models.ForeignKey("Article", null=True)
  101. models.BooleanField(verbose_name='是否赞')
  102.  
  103. class CommentUp(models.Model):
  104. """
  105. 点赞表
  106. """
  107. nid = models.AutoField(primary_key=True)
  108. user = models.ForeignKey('UserInfo', null=True)
  109. comment = models.ForeignKey("Comment", null=True)
  110.  
  111. class Tag(models.Model):
  112. nid = models.AutoField(primary_key=True)
  113. title = models.CharField(verbose_name='标签名称', max_length=32)
  114. blog = models.ForeignKey(verbose_name='所属博客', to='Blog', to_field='nid')
  115.  
  116. class Article2Tag(models.Model):
  117. nid = models.AutoField(primary_key=True)
  118. article = models.ForeignKey(verbose_name='文章', to="Article", to_field='nid')
  119. tag = models.ForeignKey(verbose_name='标签', to="Tag", to_field='nid')

select_related

简单使用

对于一对一字段(OneToOneField)和外键字段(ForeignKey),可以使用select_related 来对QuerySet进行优化。

select_related 返回一个QuerySet,当执行它的查询时它沿着外键关系查询关联的对象的数据。它会生成一个复杂的查询并引起性能的损耗,但是在以后使用外键关系时将不需要数据库查询。

简单说,在对QuerySet使用select_related()函数后,Django会获取相应外键对应的对象,从而在之后需要的时候不必再查询数据库了。

下面的例子解释了普通查询和select_related() 查询的区别。

查询id=2的文章的分类名称,下面是一个标准的查询:

  1. # Hits the database.
  2. article=models.Article.objects.get(nid=2)
  3.  
  4. # Hits the database again to get the related Blog object.
  5. print(article.category.title)
  1. '''
  2.  
  3. SELECT
  4. "blog_article"."nid",
  5. "blog_article"."title",
  6. "blog_article"."desc",
  7. "blog_article"."read_count",
  8. "blog_article"."comment_count",
  9. "blog_article"."up_count",
  10. "blog_article"."down_count",
  11. "blog_article"."category_id",
  12. "blog_article"."create_time",
  13. "blog_article"."blog_id",
  14. "blog_article"."article_type_id"
  15. FROM "blog_article"
  16. WHERE "blog_article"."nid" = 2; args=(2,)
  17.  
  18. SELECT
  19. "blog_category"."nid",
  20. "blog_category"."title",
  21. "blog_category"."blog_id"
  22. FROM "blog_category"
  23. WHERE "blog_category"."nid" = 4; args=(4,)
  24.  
  25. '''

sql翻译

如果我们使用select_related()函数:

  1. articleList=models.Article.objects.select_related("category").all()
  2.  
  3. for article_obj in articleList:
  4. # Doesn't hit the database, because article_obj.category
  5. # has been prepopulated in the previous query.
  6. print(article_obj.category.title)
  1. SELECT
  2. "blog_article"."nid",
  3. "blog_article"."title",
  4. "blog_article"."desc",
  5. "blog_article"."read_count",
  6. "blog_article"."comment_count",
  7. "blog_article"."up_count",
  8. "blog_article"."down_count",
  9. "blog_article"."category_id",
  10. "blog_article"."create_time",
  11. "blog_article"."blog_id",
  12. "blog_article"."article_type_id",
  13.  
  14. "blog_category"."nid",
  15. "blog_category"."title",
  16. "blog_category"."blog_id"
  17.  
  18. FROM "blog_article"
  19. LEFT OUTER JOIN "blog_category" ON ("blog_article"."category_id" = "blog_category"."nid");

sql翻译

多外键查询

这是针对category的外键查询,如果是另外一个外键呢?让我们一起看下:

  1. article=models.Article.objects.select_related("category").get(nid=1)
  2. print(article.articledetail)

观察logging结果,发现依然需要查询两次,所以需要改为:

  1. article=models.Article.objects.select_related("category","articledetail").get(nid=1)
  2. print(article.articledetail)

或者:

  1. article=models.Article.objects
  2.              .select_related("category")
  3.              .select_related("articledetail")
  4.              .get(nid=1) # django 1.7 支持链式操作
  5. print(article.articledetail)
  1. SELECT
  2.  
  3. "blog_article"."nid",
  4. "blog_article"."title",
  5. ......
  6.  
  7. "blog_category"."nid",
  8. "blog_category"."title",
  9. "blog_category"."blog_id",
  10.  
  11. "blog_articledetail"."nid",
  12. "blog_articledetail"."content",
  13. "blog_articledetail"."article_id"
  14.  
  15. FROM "blog_article"
  16. LEFT OUTER JOIN "blog_category" ON ("blog_article"."category_id" = "blog_category"."nid")
  17. LEFT OUTER JOIN "blog_articledetail" ON ("blog_article"."nid" = "blog_articledetail"."article_id")
  18. WHERE "blog_article"."nid" = 1; args=(1,)

深层查询

  1. # 查询id=1的文章的用户姓名
  2.  
  3. article=models.Article.objects.select_related("blog").get(nid=1)
  4. print(article.blog.user.username)

依然需要查询两次:

  1. SELECT
  2. "blog_article"."nid",
  3. "blog_article"."title",
  4. ......
  5.  
  6. "blog_blog"."nid",
  7. "blog_blog"."title",
  8.  
  9. FROM "blog_article" INNER JOIN "blog_blog" ON ("blog_article"."blog_id" = "blog_blog"."nid")
  10. WHERE "blog_article"."nid" = 1;
  11.  
  12. SELECT
  13. "blog_userinfo"."password",
  14. "blog_userinfo"."last_login",
  15. ......
  16.  
  17. FROM "blog_userinfo"
  18. WHERE "blog_userinfo"."nid" = 1;

这是因为第一次查询没有query到userInfo表,所以,修改如下:

  1. article=models.Article.objects.select_related("blog__user").get(nid=1)
  2. print(article.blog.user.username)
  1. SELECT
  2.  
  3. "blog_article"."nid", "blog_article"."title",
  4. ......
  5.  
  6. "blog_blog"."nid", "blog_blog"."title",
  7. ......
  8.  
  9. "blog_userinfo"."password", "blog_userinfo"."last_login",
  10. ......
  11.  
  12. FROM "blog_article"
  13.  
  14. INNER JOIN "blog_blog" ON ("blog_article"."blog_id" = "blog_blog"."nid")
  15.  
  16. INNER JOIN "blog_userinfo" ON ("blog_blog"."user_id" = "blog_userinfo"."nid")
  17. WHERE "blog_article"."nid" = 1;

总结

  1. select_related主要针一对一和多对一关系进行优化。
  2. select_related使用SQL的JOIN语句进行优化,通过减少SQL查询的次数来进行优化、提高性能。
  3. 可以通过可变长参数指定需要select_related的字段名。也可以通过使用双下划线“__”连接字段名来实现指定的递归查询。
  4. 没有指定的字段不会缓存,没有指定的深度不会缓存,如果要访问的话Django会再次进行SQL查询。
  5. 也可以通过depth参数指定递归的深度,Django会自动缓存指定深度内所有的字段。如果要访问指定深度外的字段,Django会再次进行SQL查询。
  6. 也接受无参数的调用,Django会尽可能深的递归查询所有的字段。但注意有Django递归的限制和性能的浪费。
  7. Django >= 1.7,链式调用的select_related相当于使用可变长参数。Django < 1.7,链式调用会导致前边的select_related失效,只保留最后一个。

prefetch_related()

对于多对多字段(ManyToManyField)和一对多字段,可以使用prefetch_related()来进行优化。

prefetch_related()和select_related()的设计目的很相似,都是为了减少SQL查询的数量,但是实现的方式不一样。后者是通过JOIN语句,在SQL查询内解决问题。但是对于多对多关系,使用SQL语句解决就显得有些不太明智,因为JOIN得到的表将会很长,会导致SQL语句运行时间的增加和内存占用的增加。若有n个对象,每个对象的多对多字段对应Mi条,就会生成Σ(n)Mi 行的结果表。

prefetch_related()的解决方法是,分别查询每个表,然后用Python处理他们之间的关系。

  1. # 查询所有文章关联的所有标签
  2. article_obj=models.Article.objects.all()
  3. for i in article_obj:
  4.  
  5. print(i.tags.all()) #4篇文章: hits database 5

改为prefetch_related:

  1. # 查询所有文章关联的所有标签
  2. article_obj=models.Article.objects.prefetch_related("tags").all()
  3. for i in article_obj:
  4.  
  5. print(i.tags.all()) #4篇文章: hits database 2
  1. SELECT "blog_article"."nid",
  2. "blog_article"."title",
  3. ......
  4.  
  5. FROM "blog_article";
  6.  
  7. SELECT
  8. ("blog_article2tag"."article_id") AS "_prefetch_related_val_article_id",
  9. "blog_tag"."nid",
  10. "blog_tag"."title",
  11. "blog_tag"."blog_id"
  12. FROM "blog_tag"
  13. INNER JOIN "blog_article2tag" ON ("blog_tag"."nid" = "blog_article2tag"."tag_id")
  14. WHERE "blog_article2tag"."article_id" IN (1, 2, 3, 4);

extra

  1. extra(select=None, where=None, params=None,
  2. tables=None, order_by=None, select_params=None)

有些情况下,Django的查询语法难以简单的表达复杂的 WHERE 子句,对于这种情况, Django 提供了 extra() QuerySet修改机制 — 它能在 QuerySet生成的SQL从句中注入新子句

extra可以指定一个或多个 参数,例如 selectwhere or tables. 这些参数都不是必须的,但是你至少要使用一个!要注意这些额外的方式对不同的数据库引擎可能存在移植性问题.(因为你在显式的书写SQL语句),除非万不得已,尽量避免这样做

参数之select

The select 参数可以让你在 SELECT 从句中添加其他字段信息,它应该是一个字典,存放着属性名到 SQL 从句的映射。

  1. queryResult=models.Article
  2.            .objects.extra(select={'is_recent': "create_time > '2017-09-05'"})

结果集中每个 Entry 对象都有一个额外的属性is_recent, 它是一个布尔值,表示 Article对象的create_time 是否晚于2017-09-05.

练习:

  1. # in sqlite:
  2. article_obj=models.Article.objects
  3.               .filter(nid=1)
  4.               .extra(select={"standard_time":"strftime('%%Y-%%m-%%d',create_time)"})
  5.               .values("standard_time","nid","title")
  6. print(article_obj)
  7. # <QuerySet [{'title': 'MongoDb 入门教程', 'standard_time': '2017-09-03', 'nid': 1}]>

extra为queryset的每一个对象增加了一个standard_time属性,standard_time是对时间对象的格式化结果:

  1. strftime('%%Y-%%m-%%d',create_time):是sqlite的格式化函数
    date_format(create_time,'%%Y-%%m-%%d'):是MySQL的格式化函数
  2.  
  3. 这样可实现类似博客的年月时间归档:
  1. date_list = Article.objects.filter(user=user).extra(select={"time": "strftime('%%Y-%%m',create_time)"}).values(
  2. "time").annotate(c=Count("title")).values_list("time", "c")

参数之where / tables

您可以使用where定义显式SQL WHERE子句 - 也许执行非显式连接。您可以使用tables手动将表添加到SQL FROM子句。

wheretables都接受字符串列表。所有where参数均为“与”任何其他搜索条件。

举例来讲:

  1. queryResult=models.Article
  2.            .objects.extra(where=['nid in (1,3) OR title like "py%" ','nid>2'])
  1. # extra
  2. # 在QuerySet的基础上继续执行子语句
  3. # extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None)
  4.  
  5. # select和select_params是一组,where和params是一组,tables用来设置from哪个表
  6. # Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,))
  7. # Entry.objects.extra(where=['headline=%s'], params=['Lennon'])
  8. # Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"])
  9. # Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid'])
  10.  
  11. 举个例子:
  12. models.UserInfo.objects.extra(
  13. select={'newid':'select count(1) from app01_usertype where id>%s'},
  14. select_params=[1,],
  15. where = ['age>%s'],
  16. params=[18,],
  17. order_by=['-age'],
  18. tables=['app01_usertype']
  19. )
  20. """
  21. select
  22. app01_userinfo.id,
  23. (select count(1) from app01_usertype where id>1) as newid
  24. from app01_userinfo,app01_usertype
  25. where
  26. app01_userinfo.age > 18
  27. order by
  28. app01_userinfo.age desc
  29. """
  30.  
  31. # 执行原生SQL
  32. # 更高灵活度的方式执行原生SQL语句
  33. # from django.db import connection, connections
  34. # cursor = connection.cursor() # cursor = connections['default'].cursor()
  35. # cursor.execute("""SELECT * from auth_user where id = %s""", [1])
  36. # row = cursor.fetchone()

整体插入

创建对象时,尽可能使用bulk_create()来减少SQL查询的数量。例如:

  1. Entry.objects.bulk_create([
  2. Entry(headline="Python 3.0 Released"),
  3. Entry(headline="Python 3.1 Planned")
  4. ])

...更优于:

  1. Entry.objects.create(headline="Python 3.0 Released")
  2. Entry.objects.create(headline="Python 3.1 Planned")

注意该方法有很多注意事项,所以确保它适用于你的情况。

这也可以用在ManyToManyFields中,所以:

  1. my_band.members.add(me, my_friend)

...更优于:

  1. my_band.members.add(me)
  2. my_band.members.add(my_friend)

...其中Bands和Artists具有多对多关联。

事务

  1. import os
  2.  
  3. if __name__ == '__main__':
  4. os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings")
  5. import django
  6. django.setup()
  7.  
  8. import datetime
  9. from app01 import models
  10.  
  11. try:
  12. from django.db import transaction
    #缩进的内容作为一个事务执行
  13. with transaction.atomic():
  14. new_publisher = models.Publisher.objects.create(name="火星出版社")
  15. models.Book.objects.create(title="橘子物语", publish_date=datetime.date.today(), publisher_id=10) # 指定一个不存在的出版社id
  16. except Exception as e:
  17. print(str(e))

QuerySet方法大全

  1. ##################################################################
  2. # PUBLIC METHODS THAT ALTER ATTRIBUTES AND RETURN A NEW QUERYSET #
  3. ##################################################################
  4.  
  5. def all(self)
  6. # 获取所有的数据对象
  7.  
  8. def filter(self, *args, **kwargs)
  9. # 条件查询
  10. # 条件可以是:参数,字典,Q
  11.  
  12. def exclude(self, *args, **kwargs)
  13. # 条件查询
  14. # 条件可以是:参数,字典,Q
  15.  
  16. def select_related(self, *fields)
  17. 性能相关:表之间进行join连表操作,一次性获取关联的数据。
  18.  
  19. 总结:
  20. 1. select_related主要针一对一和多对一关系进行优化。
  21. 2. select_related使用SQLJOIN语句进行优化,通过减少SQL查询的次数来进行优化、提高性能。
  22.  
  23. def prefetch_related(self, *lookups)
  24. 性能相关:多表连表操作时速度会慢,使用其执行多次SQL查询在Python代码中实现连表操作。
  25.  
  26. 总结:
  27. 1. 对于多对多字段(ManyToManyField)和一对多字段,可以使用prefetch_related()来进行优化。
  28. 2. prefetch_related()的优化方式是分别查询每个表,然后用Python处理他们之间的关系。
  29.  
  30. def annotate(self, *args, **kwargs)
  31. # 用于实现聚合group by查询
  32.  
  33. from django.db.models import Count, Avg, Max, Min, Sum
  34.  
  35. v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id'))
  36. # SELECT u_id, COUNT(ui) AS `uid` FROM UserInfo GROUP BY u_id
  37.  
  38. v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')).filter(uid__gt=1)
  39. # SELECT u_id, COUNT(ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1
  40.  
  41. v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id',distinct=True)).filter(uid__gt=1)
  42. # SELECT u_id, COUNT( DISTINCT ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1
  43.  
  44. def distinct(self, *field_names)
  45. # 用于distinct去重
  46. models.UserInfo.objects.values('nid').distinct()
  47. # select distinct nid from userinfo
  48.  
  49. 注:只有在PostgreSQL中才能使用distinct进行去重
  50.  
  51. def order_by(self, *field_names)
  52. # 用于排序
  53. models.UserInfo.objects.all().order_by('-id','age')
  54.  
  55. def extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None)
  56. # 构造额外的查询条件或者映射,如:子查询
  57.  
  58. Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,))
  59. Entry.objects.extra(where=['headline=%s'], params=['Lennon'])
  60. Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"])
  61. Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid'])
  62.  
  63. def reverse(self):
  64. # 倒序
  65. models.UserInfo.objects.all().order_by('-nid').reverse()
  66. # 注:如果存在order_by,reverse则是倒序,如果多个排序则一一倒序
  67.  
  68. def defer(self, *fields):
  69. models.UserInfo.objects.defer('username','id')

  70. models.UserInfo.objects.filter(...).defer('username','id')
  71. #映射中排除某列数据
  72.  
  73. def only(self, *fields):
  74. #仅取某个表中的数据
  75. models.UserInfo.objects.only('username','id')

  76. models.UserInfo.objects.filter(...).only('username','id')
  77.  
  78. def using(self, alias):
  79. 指定使用的数据库,参数为别名(setting中的设置)
  80.  
  81. ##################################################
  82. # PUBLIC METHODS THAT RETURN A QUERYSET SUBCLASS #
  83. ##################################################
  84.  
  85. def raw(self, raw_query, params=None, translations=None, using=None):
  86. # 执行原生SQL
  87. models.UserInfo.objects.raw('select * from userinfo')
  88.  
  89. # 如果SQL是其他表时,必须将名字设置为当前UserInfo对象的主键列名
  90. models.UserInfo.objects.raw('select id as nid from 其他表')
  91.  
  92. # 为原生SQL设置参数
  93. models.UserInfo.objects.raw('select id as nid from userinfo where nid>%s', params=[12,])
  94.  
  95. # 将获取的到列名转换为指定列名
  96. name_map = {'first': 'first_name', 'last': 'last_name', 'bd': 'birth_date', 'pk': 'id'}
  97. Person.objects.raw('SELECT * FROM some_other_table', translations=name_map)
  98.  
  99. # 指定数据库
  100. models.UserInfo.objects.raw('select * from userinfo', using="default")
  101.  
  102. ################### 原生SQL ###################
  103. from django.db import connection, connections
  104. cursor = connection.cursor() # cursor = connections['default'].cursor()
  105. cursor.execute("""SELECT * from auth_user where id = %s""", [1])
  106. row = cursor.fetchone() # fetchall()/fetchmany(..)
  107.  
  108. def values(self, *fields):
  109. # 获取每行数据为字典格式
  110.  
  111. def values_list(self, *fields, **kwargs):
  112. # 获取每行数据为元祖
  113.  
  114. def dates(self, field_name, kind, order='ASC'):
  115. # 根据时间进行某一部分进行去重查找并截取指定内容
  116. # kind只能是:"year"(年), "month"(年-月), "day"(年-月-日)
  117. # order只能是:"ASC" "DESC"
  118. # 并获取转换后的时间
  119. - year : 年-01-01
  120. - month: 年-月-01
  121. - day : 年-月-日
  122.  
  123. models.DatePlus.objects.dates('ctime','day','DESC')
  124.  
  125. def datetimes(self, field_name, kind, order='ASC', tzinfo=None):
  126. # 根据时间进行某一部分进行去重查找并截取指定内容,将时间转换为指定时区时间
  127. # kind只能是 "year", "month", "day", "hour", "minute", "second"
  128. # order只能是:"ASC" "DESC"
  129. # tzinfo时区对象
  130. models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.UTC)
  131. models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.timezone('Asia/Shanghai'))
  132.  
  133. """
  134. pip3 install pytz
  135. import pytz
  136. pytz.all_timezones
  137. pytz.timezone(‘Asia/Shanghai’)
  138. """
  139.  
  140. def none(self):
  141. # 空QuerySet对象
  142.  
  143. ####################################
  144. # METHODS THAT DO DATABASE QUERIES #
  145. ####################################
  146.  
  147. def aggregate(self, *args, **kwargs):
  148. # 聚合函数,获取字典类型聚合结果
  149. from django.db.models import Count, Avg, Max, Min, Sum
  150. result = models.UserInfo.objects.aggregate(k=Count('u_id', distinct=True), n=Count('nid'))
  151. ===> {'k': 3, 'n': 4}
  152.  
  153. def count(self):
  154. # 获取个数
  155.  
  156. def get(self, *args, **kwargs):
  157. # 获取单个对象
  158.  
  159. def create(self, **kwargs):
  160. # 创建对象
  161.  
  162. def bulk_create(self, objs, batch_size=None):
  163. # 批量插入
  164. # batch_size表示一次插入的个数
  165. objs = [
  166. models.DDD(name='r11'),
  167. models.DDD(name='r22')
  168. ]
  169. models.DDD.objects.bulk_create(objs, 10)
  170.  
  171. def get_or_create(self, defaults=None, **kwargs):
  172. # 如果存在,则获取,否则,创建
  173. # defaults 指定创建时,其他字段的值
  174. obj, created = models.UserInfo.objects.get_or_create(username='root1', defaults={'email': '','u_id': 2, 't_id': 2})
  175.  
  176. def update_or_create(self, defaults=None, **kwargs):
  177. # 如果存在,则更新,否则,创建
  178. # defaults 指定创建时或更新时的其他字段
  179. obj, created = models.UserInfo.objects.update_or_create(username='root1', defaults={'email': '','u_id': 2, 't_id': 1})
  180.  
  181. def first(self):
  182. # 获取第一个
  183.  
  184. def last(self):
  185. # 获取最后一个
  186.  
  187. def in_bulk(self, id_list=None):
  188. # 根据主键ID进行查找
  189. id_list = [11,21,31]
  190. models.DDD.objects.in_bulk(id_list)
  191.  
  192. def delete(self):
  193. # 删除
  194.  
  195. def update(self, **kwargs):
  196. # 更新
  197.  
  198. def exists(self):
  199. # 是否有结果

QuerySet方法大全

在Python脚本中调用Django环境

  1. import os
  2.  
  3. if __name__ == '__main__':
  4. os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings")
  5. import django
  6. django.setup()
  7.  
  8. from app01 import models
  9.  
  10. books = models.Book.objects.all()
  11. print(books)

standard_time

DAY19-Django之model进阶的更多相关文章

  1. Django之Model进阶的更多操作

    Django之Model进阶的更多操作   一.字段 AutoField(Field) - int自增列,必须填入参数 primary_key=True BigAutoField(AutoField) ...

  2. Django中Model进阶操作

    一.字段 AutoField(Field) - int自增列,必须填入参数 primary_key=True BigAutoField(AutoField) - bigint自增列,必须填入参数 pr ...

  3. Django框架学习-Model进阶用法

    Model进阶用法 回顾 访问外键 访问多对多关系 更改数据库结构 当处理数据库结构改变时,需要注意到几点: 增加字段 首先在开发环境中: 再到产品环境中: 删除字段 删除多对多字段 删除model ...

  4. Django之Model操作

    Django之Model操作 本节内容 字段 字段参数 元信息 多表关系及参数 ORM操作 1. 字段 字段列表 AutoField(Field) - int自增列,必须填入参数 primary_ke ...

  5. 【python】-- Django ORM(进阶)

    Django ORM(进阶) 上一篇博文简述了Django ORM的单表操作,在本篇博文中主要简述Django ORM的连表操作. 一.一对多:models.ForeignKey() 应用场景:当一张 ...

  6. django (四) model模型

    models模型 1. models 定义属性 概述 django根据属性的类型确定以下信息 ·当前选择的数据库支持字段的类型 ·渲染管理表单时使用的默认html控件 ·在管理站点最低限度的验证 dj ...

  7. Django的学习进阶(三)————ORM

    django框架是将数据库信息进行了封装,采取了 类——>数据表 对象——>记录 属性——>字段 通过这种一一对应方式完成了orm的基本映射官方文档:https://docs.dja ...

  8. Django的Model上都有些什么

    Django的Model上都有些什么 modelinfo= ['DoesNotExist', 'MultipleObjectsReturned', '__class__', '__delattr__' ...

  9. Python之路【第二十二篇】:Django之Model操作

    Django之Model操作   一.字段 AutoField(Field) - int自增列,必须填入参数 primary_key=True BigAutoField(AutoField) - bi ...

  10. django User model

    django User model operation this tutorial will guide us to know how to manipulate django User model. ...

随机推荐

  1. matlab *与.*的区别

    语言用来用去老是容易忘... 还是记下来比较好点.... (1)   " * "   即矩阵乘法,两个矩阵必须满足左边矩阵的列数等于右边矩阵的行数,如: A(m,k) * B(k, ...

  2. 10.0.4_对应的相关Windows服务

    对应 VMware Workstation 版本为:“10.0.4 build-2249910” 我的os是Win7 x64. Windows服务: 1. 服务名:VMware NAT Service ...

  3. [Kafka] - Kafka内核理解:消息存储机制

    一个Topic分为多个Partition来进行数据管理,一个Partition中的数据是有序.不可变的,使用偏移量(offset)唯一标识一条数据,是一个long类型的数据 Partition接收到p ...

  4. python中的字符串的种种函数

    1.连接list:为了将任意包含字符串的 list 连接成单个字符串,可以使用字符串对象的 join 方法. join 只能用于元素是字符串的 list:它不进行任何的强制类型转换.连接一个存在一个或 ...

  5. WCF实现REST服务

    REST 表述性状态转移(Representational State Transfer,REST),不是一种标准,而是一种软件架构风格. 基于REST的服务与基于SOAP的服务相比,性能.效率和易用 ...

  6. OSX 10.11 El Caption USB安装盘制作方法

    OSX 10.11 El Caption USB安装盘制作方法 官方在线下载地址:https://developer.apple.com/osx/download/ 1. 用磁盘工具将USB盘抹掉或者 ...

  7. LINUX CENTOS关机与重启命令详解

    Linux centos重启命令: 1.reboot 2.shutdown -r now 立刻重启(root用户使用) 3.shutdown -r 10 过10分钟自动重启(root用户使用) 4.s ...

  8. RabbitMQ学习系列三:.net 环境下 C#代码订阅 RabbitMQ 消息并处理

    上一篇已经讲了Rabbitmq如何在Windows平台安装 不懂请移步: RabbitMQ学习系列二:.net 环境下 C#代码使用 RabbitMQ 消息队列 一.理论 .net环境下,C#代码订阅 ...

  9. LeetCode OJ:Unique Paths(唯一路径)

    A robot is located at the top-left corner of a m x n grid (marked 'Start' in the diagram below). The ...

  10. 2018.7.28 A murder that scandalised Harvard and the world

    A murder that scandalised Harvard and the worldVisiting Boston in 1868, Charles Dickens was asked wh ...