链式求导法则公式_链式法则求导基础题

链式求导法则公式_链式法则求导基础题原题链接“计算图”(computational graph)是现代深度学习系统的基础执行引擎,提供了一种表示任意数学表达式的方法,例如用有向无环图表示的神经网络。 图中的节点表示基本操作或输入变量,边表示节点之间的中间值的依赖性。 例如,下图就是一个函数 ( 的计算图。现在给定一个计算图,请你根据所有输入变量计算函数值及其偏导数(即梯度)。 例如,给定输入,,上述计算图获得函数值 (;并且根据微分链式法则,上图得到的梯度 ∇。知道你已经把微积分忘了,所以这里只要求你处理几个简单的算子:加法、减法、乘


Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

原题链接

“计算图”(computational graph)是现代深度学习系统的基础执行引擎,提供了一种表示任意数学表达式的方法,例如用有向无环图表示的神经网络。 图中的节点表示基本操作或输入变量,边表示节点之间的中间值的依赖性。 例如,下图就是一个函数 ( 的计算图。

在这里插入图片描述

现在给定一个计算图,请你根据所有输入变量计算函数值及其偏导数(即梯度)。 例如,给定输入,,上述计算图获得函数值 (;并且根据微分链式法则,上图得到的梯度 ∇。

知道你已经把微积分忘了,所以这里只要求你处理几个简单的算子:加法、减法、乘法、指数(e​x​​,即编程语言中的 exp(x) 函数)、对数(ln,即编程语言中的 log(x) 函数)和正弦函数(sin,即编程语言中的 sin(x) 函数)。

友情提醒:

常数的导数是 0;x 的导数是 1;e​x​​ 的导数还是 e​x​​;ln 的导数是 1;sin 的导数是 cos。
回顾一下什么是偏导数:在数学中,一个多变量的函数的偏导数,就是它关于其中一个变量的导数而保持其他变量恒定。在上面的例子中,当我们对 x​1​​ 求偏导数 / 时,就将 x​2​​ 当成常数,所以得到 ln 的导数是 1,x​1​​x​2​​ 的导数是 x​2​​,sin 的导数是 0。
回顾一下链式法则:复合函数的导数是构成复合这有限个函数在相应点的导数的乘积,即若有 (,(,则 /。例如对 sin 求导,就得到 cos。
如果你注意观察,可以发现在计算图中,计算函数值是一个从左向右进行的计算,而计算偏导数则正好相反。

输入格式:
输入在第一行给出正整数 N(≤),为计算图中的顶点数。

以下 N 行,第 i 行给出第 i 个顶点的信息,其中 ,。第一个值是顶点的类型编号,分别为:

0 代表输入变量
1 代表加法,对应 x​1​​+x​2​​
2 代表减法,对应 x​1​​−x​2​​
3 代表乘法,对应 x​1​​×x​2​​
4 代表指数,对应 e​x​​
5 代表对数,对应 ln
6 代表正弦函数,对应 sin
对于输入变量,后面会跟它的双精度浮点数值;对于单目算子,后面会跟它对应的单个变量的顶点编号(编号从 0 开始);对于双目算子,后面会跟它对应两个变量的顶点编号。

题目保证只有一个输出顶点(即没有出边的顶点,例如上图最右边的 -),且计算过程不会超过双精度浮点数的计算精度范围。

输出格式:
首先在第一行输出给定计算图的函数值。在第二行顺序输出函数对于每个变量的偏导数的值,其间以一个空格分隔,行首尾不得有多余空格。偏导数的输出顺序与输入变量的出现顺序相同。输出小数点后 3 位。

输入样例:

7
0 2.0
0 5.0
5 0
3 0 1
6 1
1 2 3
2 5 4
输出样例:
11.652
5.500 1.716

题解
将每个节点的输入节点编号存入到节点结构体中,然后先正向bfs求每个节点的输出值,然后再方向求每个节点的导数,注意求导数的时候每个节点存储的导数是其输出变量的导数,求解的时候应该按照不同路径的导数相加,同一路径上的导数相乘。
无论是正向还是方向均应按照拓扑序求解

#include<bits/stdc++.h>
#include<cmath>
#define x first
#define y second
#define send string::npos
#define lowbit(x) (x&(-x))
#define left(x) x<<1
#define right(x) x<<1|1
using namespace std;
typedef long long ll;
typedef pair<int,int> PII;
typedef struct Node * pnode;
const int N = 1e6 + 10;
const int M = 3 * N;
const int INF = 0x3f3f3f3f;
const ll LINF = 0x3f3f3f3f3f3f3f3f;
const int Mod = 1e9;
int out[N],in[N];
struct Node{ 
   
    double v,f;    //v代表此节点输出值,f代表输出值导数
    int la,lb;
    int op;
}node[N];
int head[N],cnt;
int q[N],tt = 0,hh = 0;
vector<int>s;   //起始节点
struct Edge{ 
   
    int v,next;
}edge[2 * M];
void add(int u,int v){ 
   
    edge[cnt].v = v;
    edge[cnt].next = head[u];
    head[u] = cnt ++;
}
double op123(int t,double a,double b){ 
   
    if(t == 1)return a + b;
    if(t == 2)return a - b;
    if(t == 3)return a * b;
}
double op456(int t,double a){ 
   
    if(t == 4)return exp(a);
    if(t == 5)return log(a);
    if(t == 6)return sin(a);
}
void bfs(){ 
   
    for(int i = 0;i < s.size();i ++)q[tt ++] = s[i];
    while(hh < tt){ 
   
        int t = q[hh ++];
// cout<<t<<endl;
        double a = node[node[t].la].v,b = node[node[t].lb].v;
        int type = node[t].op;
        if(type == 1 || type == 2 || type == 3)node[t].v = op123(type,a,b);
        else if(type != 0)node[t].v = op456(type,a);
// cout<<t<<" "<<type<<" "<<node[t].v<<endl;
        for(int i = head[t];~i;i = edge[i].next){ 
   
            int v = edge[i].v;
            in[v] --;
            if(in[v] == 0)	//如果此处不按拓扑序,则会产生大量的重复节点
                q[tt ++] = v;
        }
    }
}
void top(int root){ 
   
    hh = tt = 0;
    q[tt ++] = root;
    while(hh < tt){ 
   
        int t = q[hh ++];
// cout<<t<<endl;
        if(node[t].op == 1 || node[t].op == 2 || node[t].op == 3){ 
   
            if(node[t].op == 1){ 
   
                node[node[t].la].f += (1 * node[t].f);
                node[node[t].lb].f += (1 * node[t].f);
            }else if(node[t].op == 2){ 
   
                node[node[t].la].f += (1 * node[t].f);
                node[node[t].lb].f += (-1 * node[t].f);
            }else{ 
   
                node[node[t].la].f += (node[node[t].lb].v * node[t].f);
                node[node[t].lb].f += (node[node[t].la].v * node[t].f);
            }
            out[node[t].la] --,out[node[t].lb] --;
            if(out[node[t].la] == 0)q[tt ++] = node[t].la;
            if(out[node[t].lb] == 0)q[tt ++] = node[t].lb;
        }
        else if(node[t].op != 0){ 
   
            if(node[t].op == 4)node[node[t].la].f += (node[t].v * node[t].f);
            else if(node[t].op == 5)node[node[t].la].f += (node[t].f / node[node[t].la].v) ;
            else node[node[t].la].f += (cos(node[node[t].la].v) * node[t].f);
            out[node[t].la] --;
            if(out[node[t].la] == 0)q[tt ++] = node[t].la;
        }
    }
}
int main(){ 
   
    memset(head,-1,sizeof head);
    int n,t,a,b;
    double x;
    cin>>n;
    for(int i = 0;i < n;i ++){ 
   
        cin>>t;
        if(t == 0){ 
   
            cin>>x;
            s.push_back(i);
            node[i].v = x;
        }
        else if(t == 1 || t == 2 || t == 3){ 
   
            cin>>a>>b;
            add(a,i);
            add(b,i);
            out[a] ++,out[b] ++;
            in[i] ++,in[i] ++;
            node[i].la = a,node[i].lb = b;
        }else if(t == 4 || t == 5 || t == 6){ 
   
            cin>>a;
            add(a,i);
            out[a] ++;
            in[i] ++;
            node[i].la = a;
        }
        node[i].op = t;
    }
    int root = -1;
    for(int i = 0;i < n;i ++)
        if(!out[i])
            root = i;
// cout<<"root:"<<root<<endl;
    bfs();
    node[root].f = 1;		//最后一个节点的输出值导数应该为1
    top(root);
    printf("%.3f\n%.3f",node[root].v,node[s[0]].f);
    for(int i = 1;i < s.size();i ++)printf(" %.3f",node[s[i]].f);
    return 0;
}

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/168768.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长

相关推荐

  • 惠普电脑指纹锁_利用计算机对指纹进行识别

    惠普电脑指纹锁_利用计算机对指纹进行识别按下电源键,输入密码,咦?密码输错了……再输……咦?又错了!开机密码是啥来着?设置开机密码很普遍(图片引自网络)相信很多朋友都有过上述经历。为了让笔记本更安全,于是设置了一个开机密码。并且为了提高密码的安全性,时常需要过段时间就更新一次,所以经常一着急就给忘了。设置密码虽好,但是它也有两点弊端,一是增加了开机时间,二是存在遗忘和被盗的风险。想想看,你每次开机是不是都要输入一组6位左右的数字或者字母…

    2022年8月10日
  • 分别用冒泡法和选择法对10个整数排序_c语言数组从大到小冒泡排序

    分别用冒泡法和选择法对10个整数排序_c语言数组从大到小冒泡排序1.区别:      两者最大的区别在于算法本身。       冒泡法是相邻元素两两比较,每趟将最值沉底即可确定一个数在结果的位置,确定元素位置的顺序是从后往前,其余元素可以作相对位置的调整。可以进行升序或降序排序。        选择法是每趟选出一个最值确定其在结果序列中的位置,确定元素的位置是从前往后,而每趟最多进行一次交换,其余元素的相对位置不变。可进行降序排序或升序排序。2.冒泡法:…

    2022年10月19日
  • vs安装本地nuget包(vs2015离线使用)

    今天想在项目中使用RestSharp,不过在nuget控制台中发现要么新版本不支持.net4.0,要么用老版本的下载不下来,最后没办法,在RestSharp网站上下载了离线安装包,怎样安装呢?方法之一,概括而言就是把安装包放在NuGet下载缓存目录下,下面就来打开目录:1.Tool-NuGetPackageManager-PackageManagerSettings2…

    2022年4月12日
  • 好程序员Java培训分享如何快速入门Java

    好程序员Java培训分享如何快速入门Java好程序员Java培训分享如何快速入门Java,一、掌握静态方法和属性  静态方法和属性用于描述某一类对象群体的特征,而不是单个对象的特征。Java中大量应用了静态方法和属性,这是一个通常的技巧。但是这种技巧在很多语言中不被频繁地使用。理解静态方法和属性对于理解类与对象的关系是十分有帮助的,在大量的Java规范中,静态方法和属性被频繁使用。因此学习者应该理解静态方法和属性。Java在方法和属性的调用上是一致的,区别只表现在声明的时候,这和c++是不同的。  二、重视接口  在面向对象早期的应用中大量使用

    2022年7月7日
  • linux命令行字体大小_linux命令行写代码

    linux命令行字体大小_linux命令行写代码2019年7月12日更新链接:https://pan.baidu.com/s/17RDrepFf-GI427I7k3jBcQ提取码:qk8k网上的大部分都要积分什么的,很麻烦。这本很清晰,分享给大家。转载于:https://www.cnblogs.com/lixiaoxu/p/7590237.html…

    2022年9月27日
  • sqlyog激活成功教程版_sqlyog10.0安装教程

    sqlyog激活成功教程版_sqlyog10.0安装教程链接:https://pan.baidu.com/s/1N3ufWDe-CKj4QvNIz8vXpA提取码:95hm直接安装接着用压缩白内的文档注册码注册即可使用。

    2022年9月23日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号