› MySQL 5.5 Community Server
› MySQL 5.6 Community Server
› Percona Configuration Wizard
› XtraBackup 搭建主从复制
Great Sites on MySQL
› Percona
› MySQL Performance Blog
› Severalnines
推荐管理工具
› Sequel Pro
› phpMyAdmin
推荐书目
› MySQL Cookbook
MySQL 相关项目
› MariaDB
› Drizzle
参考文档
› http://mysql-python.sourceforge.net/MySQLdb.html
rogwan
V2EX  ›  MySQL

MySQL 每次随机取一些值,下次在剩下的数据池中再取,有什么好的解决方法吗?

  •  
  •   rogwan · Apr 22, 2017 · 5389 views
    This topic created in 3488 days ago, the information mentioned may be changed or developed.
    从数据表中查询数值,分批次用,每次 10 条。用 order by rand() 之后,第一次用 10 条,第二次再用 10 条的时候,结果又 rand 了一次(搞得第二次取的 10 条数据中,有部分和第一次取的 10 条数据有重合)。

    我想第二次用的 10 条数据,不要和第一次用的 10 条数据有重复;每次随机取值都是在剩下的数据池中取,有什么好的解决方法吗?
    14 replies  •  2017-05-10 12:24:33 +08:00
    bosshida
    bosshida
    Apr 22, 2017 via iPhone
    1
    增加一个字段 is_used ,用过就更新一下?
    Jodal
    Jodal
    Apr 22, 2017 via iPad❤️1
    2
    一个方案是增加一个 where 过滤,然后 rand 。如 select * from table_name where id > x 。下次改变 x 值。第二个方案是 redis cache 起来取每次取完 10 条后, set 删除这 10 条,下次再取 10 条。仅供参考。
    ming2050
    ming2050
    Apr 22, 2017 via iPhone
    3
    分页。。。。
    moult
    moult
    Apr 22, 2017❤️1
    4
    加一个 rand_val 字段,每次插入的时候,就产生一个随机数写入。
    读取的时候,也生成一个随机数作为条件进行查询
    先查询 where rand_val > ? order by rand_val 如果没有结果,就查询 where rand_val < ? order by rand_val desc
    也就是查询这个随机数附近的记录
    读取之后,标记 rand_val=0 表示读取过了!
    dsg001
    dsg001
    Apr 22, 2017❤️1
    5
    读取所有 id 乱序保存,使用时读取切片
    rogwan
    rogwan
    OP
    Apr 22, 2017
    6
    @mringg 分页就是会出现我说的问题(第二页的内容 和 第一页的内容可能会有重复的部分)

    @dsg001 你了解这样做数据量大了,查询性能会大幅下降吗?
    rogwan
    rogwan
    OP
    Apr 22, 2017
    7
    @Jodal
    @moult

    查了下资料,用 rand 加 seed ,然后再设置 offset 和 limit 。这样看起来好像没有重复了,现在数据量少,不知道实际性能是不是高效?
    ioioioioioioi
    ioioioioioioi
    Apr 22, 2017 via iPhone
    8
    增加一个 random 字段,每小时更新
    whileFalse
    whileFalse
    Apr 22, 2017
    9
    @rogwan 如果数据量很大的话,第二次查询 10 条出现第一次查询的结果的可能性非常低。
    而且如果数据量大,生成一次随机列表可以用很久
    所以数据量大你无论用哪种方式都没问题。
    dsg001
    dsg001
    Apr 22, 2017
    10
    @rogwan 准备每次都查询全部 id ?一次查询保存到内存,然后切片使用,再有需要则更新内存数据
    kokutou
    kokutou
    Apr 22, 2017 via Android
    11
    那么问题来了。。。
    为啥不一次取 20 条。
    ghostheaven
    ghostheaven
    Apr 23, 2017 via Android
    12
    取出来的放到另一张表 b 里,取的时候 left join 一下这张表,多加个判断 where b.id is null
    abcbuzhiming
    abcbuzhiming
    May 10, 2017
    13
    @rogwan 我跟你说你这个问题我遇到过,我们的试验结论是 mysql 在随机查询上的性能完全无法接受,从 100w 样本中抽数据速度就会掉到需要 5-6 秒的程度(机械硬盘 7200 转)。后来我们是用 redis,把数据弄到缓存里,直接用代码随机,从缓存中抽取来解决的
    rogwan
    rogwan
    OP
    May 10, 2017
    14
    @abcbuzhiming 是的,后来我们也测试了一下,样本还没你 100w 那么多,就发现速度不行了。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1114 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 23:07 · PVG 07:07 · LAX 15:07 · JFK 18:07
    ♥ Do have faith in what you're doing.