使用硒捕获数据并将其添加到字典以在数据框中使用

agra94

我一直在尝试使用硒从Twitter上获取推文。我已经成功获取了想要的html并将其打印出来,但是在进入适合用于数据框的表单时遇到了麻烦。

这是我的代码:

import time
import pandas as pd
import numpy as np

from selenium import webdriver
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.common.by import By

browser = webdriver.Chrome()
url = 'https://twitter.com/search?f=tweets&q=cuomosmta%20since%3A2016-08-22%20until%3A2018-08-22'

browser.get(url)
time.sleep(1)

tweet_dict = {}

tweets = browser.find_elements_by_class_name('tweet-text')

for tweet in tweets:
    print(tweet.text)
    tweet_dict['tweet'] = tweet.text

如果运行代码,您将看到它打印每个单独的推文。我这样做是为了确保代码正常工作。

但是由于某种原因,当我检查字典时,我的输出是:

tweet_dic['tweet']

是:

'Ugh, Cuomo and #CuomosMTA are terrible, just terrible.'

上面的输出也是我要抓取的页面上的最后一条推文。

我已经尝试了多种方法,甚至尝试了BeautifulSoup,但是由于某种原因,我一直得到相同的结果。

我不明白为什么我可以打印所有推文,但不能将它们附加到字典中。

我是一个初学者,可能会缺少一些非常明显的东西,因此我们将不胜感激。

请,如果可能的话,我正在尝试仅使用硒,因为它比在beautifulsoup中更容易获取确切的时间戳。

谢谢!

安德森

字典应仅包含唯一键,因此您无需覆盖循环中的每个推文,而只是覆盖相同的键值对。您可以尝试以下解决方案:

for tweet in range(len(tweets)):
    print(tweets[tweet].text)
    tweet_dict['tweet_%s' % tweet] = tweets[tweet].text

输出应为

{'tweet_0': 'first tweet content', 'tweet_1': 'second tweet content', ...}

本文收集自互联网,转载请注明来源。

如有侵权,请联系 [email protected] 删除。

编辑于
0

我来说两句

0 条评论
登录 后参与评论

相关文章

在数据框列表中提取数据框的名称并将其添加到列名

使用 SQLite 保存数据并将其添加到 ListView

Pandas 数据框按列分组并将其余列添加到命名字典

如何遍历抓取的项目并将其添加到字典或熊猫数据框?

如何使用键名将字典添加到数据框?

使用字典将列添加到数据框

使用Python捕获字符串中的数字并将其存储在数据框中

如何使用Pandas和Python创建新变量并将其添加到数据框以打印为excel?

使用Python从API获取数据并将其添加到数据库

如何使用PHP提取API数据并将其添加到数据库中?

如何使用jQuery从php数组获取数据并将其添加到页面标题属性中?

如何使用Flutter串流数据并将其添加到Build Function外部

如何使用linux命令从日志文件中检索数据并将其添加到数组

猫鼬查找-使用返回的数据并将其添加到变量中

如何计算熊猫数据框中每组的行数并将其添加到原始数据

将字典中的值与数据框行值匹配并将数据添加到该行

如何使用字典将计算结果添加到数据框中?

使用字典列将行添加到pandas数据框

使用带索引的字典将列添加到pandas数据框

如何使用python将元素字典添加到数据框?

熊猫:如何获取日期之间的差异并将其添加到新的数据框中?

如何从数据框中的列中提取数字并将其添加到新列中

计算平均值并将其作为新行添加到数据框

Pandas str拆分一列并将其添加到数据框

计算每列的统计信息并将其添加到空数据框

在numpy数组上执行计算并将其添加到pandas数据框

python:如何溢出字典并将信息添加到数据框中的行?

如何从数据框中创建多个其他列并将其添加到同一数据框中

如何从Excel检索数据并将其添加到Word