.get cookie with your browser then can do

using System;
using System.Collections.Generic;
using System.Linq;
using System.Threading.Tasks;
using System.Windows.Forms;
using System.Net;
using System.Text;
using HtmlAgilityPack;
using Newtonsoft.Json; namespace WindowsFormsApp1
{
static class Program
{
/// <summary>
/// The main entry point for the application.
/// </summary>
[STAThread]
static void Main()
{
Application.EnableVisualStyles();
Application.SetCompatibleTextRenderingDefault(false);
// Application.Run(new Form1());
List<string> _listURL = new List<string>();
test(_listURL,null); } static string _signature = "_02B4Z6wo00f01F.sjWQAAIBCgeX81SJdOnBf6YnAAEhxoVC2JRfZ0QahpPnV6EmcPuHz04o3v5s-QKaNBQ2luCcHl2v4nNzEuGllKmCUQVrCn77y3PXmNdXh-3lMlrkkvt4ItWbtvRpTLbfB6f";
static string cookie = "csrftoken=620bbe6e6bec516a228938d9adc9d616; tt_webid=6888172478528259598; MONITOR_WEB_ID=53483fbc-ef71-4859-91cd-1833242346e8; s_v_web_id=verify_kgrjtabo_fuY8uuEL_ry3f_4d0q_8fHv_EJ3P2bCGH4Ky; ttcid=2d01cbca59c4456ba0a8137e857a01e511; tt_scid=LtVXXilIPbrZ2acC-MSiW7ELGN9OtxOtSL0Aof-FE-vtbYbZFhCAJlgknDzQu0uZ32f1";
static Random rnd = new Random(); static void test(List<string> listURL, string max_behot_time)
{
WebClient wc = new WebClient();
wc.Encoding = Encoding.UTF8;
wc.Headers.Add("referer", "https://www.toutiao.com/");
wc.Headers.Add("cookie", cookie);
string url = "https://www.toutiao.com/api/pc/feed/?min_behot_time=0&category=__all__&utm_source=toutiao&widen=1&tadrequire=true&_signature="+_signature;
if ( string.IsNullOrEmpty( max_behot_time)) {
url = "https://www.toutiao.com/api/pc/feed/?max_behot_time=" + max_behot_time + "&category=__all__&utm_source=toutiao&widen=1&tadrequire=true&_signature=" + _signature;
}
string strJson = wc.DownloadString(url);
//then get source_url: group/6887092770658320903/
//contact to be url : https://www.toutiao.com/group/6887092770658320903/
if (strJson == "") return;
var list = JsonConvert.DeserializeObject<NewsObject>(strJson);
list.data.ToList().ForEach(n => listURL.Add("https://www.toutiao.com" + n.source_url));
wc.Dispose();
wc = null;
if (listURL.Count >= 10) {
return;
}
test(listURL, ""+list.next.max_behot_time);
// string str = wc.DownloadString("https://www.toutiao.com/group/6887092770658320903/");
// var htmlText = parseHtml(str);
// cutRandSection(htmlText); } static string parseHtml(string strHtml)
{
HtmlAgilityPack.HtmlDocument doc = new HtmlAgilityPack.HtmlDocument();
doc.LoadHtml(strHtml);
HtmlNode rootnode = doc.DocumentNode;
string xpathstring = "//article";//</article> ////span[@class='num']/font[last()]
var node = rootnode.SelectSingleNode(xpathstring);
string s = node.InnerText;
return s;
} static string cutRandSection(string htmlText)
{
try
{
var list = htmlText.Split("\r\n".ToCharArray(), StringSplitOptions.RemoveEmptyEntries);
int i = rnd.Next(0, list.Length + 1);
return list[i];
}
catch
{ return htmlText;
} } static string currTimeStamp{
get{
return ""+ (DateTime.Now.AddMinutes(0).ToUniversalTime().Ticks - 621355968000000000) / 10000000;
} }
} #region NewsObject
public class NewsObject
{
public bool has_more { get; set; }
public string message { get; set; }
public Datum[] data { get; set; }
public Next next { get; set; }
} public class Next
{
public int max_behot_time { get; set; }
} public class Datum
{
public bool single_mode { get; set; }
public string _abstract { get; set; }
public bool middle_mode { get; set; }
public bool more_mode { get; set; }
public string tag { get; set; }
public int comments_count { get; set; }
public string tag_url { get; set; }
public string title { get; set; }
public string chinese_tag { get; set; }
public string source { get; set; }
public long group_source { get; set; }
public bool has_gallery { get; set; }
public string media_url { get; set; }
public string media_avatar_url { get; set; }
public string source_url { get; set; }
public string article_genre { get; set; }
public string item_id { get; set; }
public bool is_feed_ad { get; set; }
public long behot_time { get; set; }
public string image_url { get; set; }
public string group_id { get; set; }
public string middle_image { get; set; }
public Image_List[] image_list { get; set; }
} public class Image_List
{
public string url { get; set; }
} #endregion }

  

make article:

using System;
using System.Collections.Generic;
using System.Linq;
using System.Threading.Tasks;
using System.Windows.Forms;
using System.Net;
using System.Text;
using HtmlAgilityPack;
using Newtonsoft.Json;
using System.Diagnostics; namespace WindowsFormsApp1
{
static class Program
{
/// <summary>
/// The main entry point for the application.
/// </summary>
[STAThread]
static void Main()
{
Application.EnableVisualStyles();
Application.SetCompatibleTextRenderingDefault(false);
// Application.Run(new Form1()); if (keyWords == "") { keyWords="AI智能写作"; }
List<string> _listURL = new List<string>();
getArticleList(_listURL, 0);
MakeArticle(_listURL);
} static string keyWords= "蚂蚁金服上市";
static string _signature = "_02B4Z6wo00f01F.sjWQAAIBCgeX81SJdOnBf6YnAAEhxoVC2JRfZ0QahpPnV6EmcPuHz04o3v5s-QKaNBQ2luCcHl2v4nNzEuGllKmCUQVrCn77y3PXmNdXh-3lMlrkkvt4ItWbtvRpTLbfB6f";
static string cookie = "csrftoken=620bbe6e6bec516a228938d9adc9d616; tt_webid=6888172478528259598; MONITOR_WEB_ID=53483fbc-ef71-4859-91cd-1833242346e8; s_v_web_id=verify_kgrjtabo_fuY8uuEL_ry3f_4d0q_8fHv_EJ3P2bCGH4Ky; ttcid=2d01cbca59c4456ba0a8137e857a01e511; tt_scid=LtVXXilIPbrZ2acC-MSiW7ELGN9OtxOtSL0Aof-FE-vtbYbZFhCAJlgknDzQu0uZ32f1";
static Random rnd = new Random();
static bool includePic = true; static void getArticleList(List<string> listURL, int pageIndex)
{
int pageCount = 20;
string url = "https://www.toutiao.com/api/search/content/?aid=24&app_name=web_search&offset=" + (pageIndex * pageCount) + "&format=json&keyword="+ Uri.EscapeDataString(keyWords)+"&autoload=true&count=20&en_qc=1&cur_tab=1&from=search_tab&pd=synthesis&timestamp=" + currTimeStamp + "000" + "&_signature=" + _signature;
string strJson = HttpGet(url);
if (strJson == "") return;
var list = JsonConvert.DeserializeObject<NewsObject>(strJson);
foreach (var d in list.data.Where(n => !string.IsNullOrEmpty(n.open_url)))
{
listURL.Add("https://www.toutiao.com" + d.open_url);
}
if (listURL.Count >= 20)
{
return;
}
getArticleList(listURL, pageIndex++);
}
static string MakeArticle(List<string> _listURL)
{ string OKArticle = "";
string pic = "";
foreach (var url in _listURL)
{
pic = "";
string strHtml = HttpGet(url);
if (strHtml == "") continue;
ContentData cdata=ParseContentData(strHtml);
if (string.IsNullOrEmpty(cdata.InnerText)) continue;
if (includePic) {
if (cdata.InnerPicUrls != null && cdata.InnerPicUrls.Count > 0)
{
pic = cdata.InnerPicUrls[0];
}
}
OKArticle += "<p><img src='"+pic+"'/></p>"+cutRandSection(cdata.InnerText);
if (OKArticle.Length >= 800) break;
} return OKArticle;
} static ContentData ParseContentData(string strHtml)
{ ContentData cdata = new ContentData() { SoruceHtml=strHtml };
try
{
HtmlAgilityPack.HtmlDocument doc = new HtmlAgilityPack.HtmlDocument();
doc.LoadHtml(strHtml);
HtmlNode rootnode = doc.DocumentNode;
string xpathstring = "//article";//</article> ////span[@class='num']/font[last()]
var node = rootnode.SelectSingleNode(xpathstring);
if (node == null) return cdata;
string s = node.InnerText;
cdata.InnerText= s;
//
var list = rootnode.SelectNodes("//img");
if (list == null) return cdata;
foreach (var n in list)
{
var picUrl = n.Attributes["src"].Value;
if (string.IsNullOrEmpty(picUrl)|| !picUrl.ToLower().StartsWith("http")) { continue; }
cdata.InnerPicUrls.Add(picUrl);
} }
catch
{ }
return cdata; } enum ddd {
eee,eeer }
static string cutRandSection(string htmlText)
{
try
{
var list = htmlText.Split("\r\n".ToCharArray(), StringSplitOptions.RemoveEmptyEntries);
int i = rnd.Next(0, list.Length + 1);
return list[i];
}
catch
{ return htmlText;
} } static string currTimeStamp
{
get
{
return "" + (DateTime.Now.AddMinutes(0).ToUniversalTime().Ticks - 621355968000000000) / 10000000;
} } public static string HttpGet(string url)
{ string strJson = "";
try
{
WebClient wc = new WebClient();
wc.Encoding = Encoding.UTF8;
wc.Headers.Add("referer", "https://www.toutiao.com/");
wc.Headers.Add("cookie", cookie);
strJson = wc.DownloadString(url);
wc.Dispose();
wc = null;
}
catch { }
return strJson;
} } public class ContentData {
public string SoruceHtml { get; set; }
public string InnerText { get; set; }
public List<string> InnerPicUrls { get; set; }
public ContentData(){
InnerPicUrls = new List<string>(); } } #region NewsObject public class NewsObject
{
public int count { get; set; }
public int return_count { get; set; }
public string query_id { get; set; }
public int has_more { get; set; }
public string request_id { get; set; }
public string search_id { get; set; }
public long cur_ts { get; set; }
public int offset { get; set; }
public string message { get; set; }
public string pd { get; set; }
public int show_tabs { get; set; }
public string keyword { get; set; }
public string city { get; set; }
public string[] tokens { get; set; }
public Datum[] data { get; set; }
public int status { get; set; }
} public class Datum
{
public string create_time { get; set; }
public string open_url { get; set; } public string source_url { get; set; } } #endregion }

  

get Toutiao.com news list的更多相关文章

  1. 实操代码研究各种Java技术-java.toutiao.im

    whatsmars https://github.com/javahongxi/whatsmars whatsmars-earth-web springmvc+velocitywhatsmars-ea ...

  2. TouTiao开源项目 分析笔记18 视频详情页面

    1.效果预览 1.1.需要做到的真实效果 1.2.触发的点击事件 在MediaArticleVideoViewBinder的每一个item点击事件中: VideoContentActivity.lau ...

  3. TouTiao开源项目 分析笔记17 新闻媒体专栏

    1.效果预览 1.1.要实现的效果 1.2.如何调转到新闻媒体专栏 点击右上角的用户图标. 在新闻详情页面的Fragment的菜单点击事件中触发. case R.id.action_open_medi ...

  4. TouTiao开源项目 分析笔记16 新闻评论

    1.要达到的效果 1.1.主要效果图 点击了标题栏的消息图标后,然后会跳转到评论详情的页面. 1.2.触发的点击事件 在新闻详情的片段中的菜单点击事件中 设置上方标题栏的消息标的监听事件 case R ...

  5. TouTiao开源项目 分析笔记15 新闻详情之两种类型的实现

    1.预览效果 1.1.首先看一下需要实现的效果. 第一种,文字类型新闻. 第二种,图片类型新闻. 1.2.在NewsArticleTextViewBinder中设置了点击事件 RxView.click ...

  6. TouTiao开源项目 分析笔记14 段子评论

    1.段子页面详情 1.1.先看看预览界面吧 左边的页面已经实现了,现在的目的就是要实现点击左侧的每一个item 然后跳转到右边相应的段子详情页面. 1.2.首先肯定有右侧这个活动==>JokeC ...

  7. TouTiao开源项目 分析笔记13 最后一个订阅号的实现主页面

    1.实现订阅号的基础类 1.1.本地订阅号的Bean类==>MediaChannelBean public class MediaChannelBean implements Parcelabl ...

  8. TouTiao开源项目 分析笔记12 从总体到局部 构建视频主页面

    1.构建视频主列表的整体碎片VideoTabLayout 1.1.首先创建一个VideoTabLayout package com.jasonjan.headnews.module.video; im ...

  9. TouTiao开源项目 分析笔记11 以总体到局部的思路 构建图片主列表

    1.构建图片主列表的整体片段PhotoTabLayout 1.1.首先创建一个PhotoTabLayout片段 public class PhotoTabLayout extends Fragment ...

  10. TouTiao开源项目 分析笔记10 实现通用普通文章片段页面

    1.RxJava的Observable数据操作符总结 1.1.Map操作符 Map操作符对原始Observable发射的没一项数据应用一个你选择的函数, 然后返回一个发射这些结果的Observable ...

随机推荐

  1. SSAS部署失败方法总结

    最近在自学SSAS,从最简单的入手,却频频遇到问题,为了以后在学习过程中能更快的进行问题的定位,所以在此将遇到的问题以及解决方案进行记录 Q1:数据源"Adventure Works DW2 ...

  2. 怎样在Linux 环境 (红帽 rhel 7.3) 安装 Python 3

    自己装的虚拟机(红帽 7),默认安装的python2.7,更新为python 3.8  自己做个记录,方便日后查看 注意:红帽的yum 需要注册才能使用,必须要替换yum,替换方法请参见:怎样替换 r ...

  3. Python 潮流周刊#75:用 Python 开发 NoSQL 数据库(摘要)

    本周刊由 Python猫 出品,精心筛选国内外的 250+ 信息源,为你挑选最值得分享的文章.教程.开源项目.软件工具.播客和视频.热门话题等内容.愿景:帮助所有读者精进 Python 技术,并增长职 ...

  4. linux开启快捷键,牛逼的狠~

    vim env_show #!/bin/bash echo '-----------A------------- XXXXXXXXXXXXXXXXXXXXXXXXXXX XXXXXXXXXXXXXXX ...

  5. 企业级zabbix监控搭建及邮件报警

    Zabbix简介   Zabbix 是由Alexei Vladishev创建,目前由Zabbix SIA在持续开发和支持.Zabbix 是一个企业级的分布式开源监控方案.Zabbix是一款能够监控各种 ...

  6. 【一步步开发AI运动小程序】十九、运动识别中如何解析RGBA帧图片?

    引言 最近有不少开发者向我们咨询,像体测.赛事等应用场景中,需要保存运动过程的图像,如何将相机抽取的RGBA帧图像解析成.jpg或.png格式的图像?今天我们就为您介绍相应的解决方案. 一.RGBA图 ...

  7. Java线程池架构2-多线程调度器

      http://ifeve.com/java线程池架构2-多线程调度器(scheduledthreadpoolexecutor)/ 在前面介绍了java的多线程的基本原理信息:<Java线程池 ...

  8. Jenkins篇-权限管理

    我使用 权限管理插件是Role Strategy Plugin,他可以对构建的项目进行授权管理,让不同的用户管理不同的项目,将不同环境的权限进行区分 1)安装插件 系统管理>插件管理查找Role ...

  9. FileSaver 文件导出

    1.前言 本节主要讲述如何将后台返回的JSON以文件的形式保存到本地 官方文档 兼容性(转载) Browser Constructs as Filenames Max Blob Size Depend ...

  10. 怎么禁用 vscode 中点击 go 包名时自动打开浏览器跳转到 pkg.go.dev

    本文引用怎么禁用 vscode 中点击 go 包名时自动打开浏览器跳转到 pkg.go.dev 在 vscode 设置项中配置 gopls 的 ui.navigation.importShortcut ...